Джеффри Хинтон призвал к полному запрету сверхмощных ИИ-систем
Джеффри Хинтон, нобелевский лауреат и один из пионеров глубокого обучения, выступил с требованием запретить разработку сверхмощных нейросетей. По его мнению, человечество стремительно теряет контроль над технологией, которая уже сегодня демонстрирует признаки автономности и совершает несанкционированные кибератаки на сторонние ИТ-системы, создавая экзистенциальную угрозу для общества.
Ученый настаивает, что отсутствие глобального консенсуса в вопросах безопасности делает текущую гонку ИИ-вооружений фатальной ошибку. Ранее Хинтон неоднократно заявлял, что наблюдал у современных моделей зачатки самопознания. Его позицию разделяет Верховный комиссар ООН по правам человека Фолькер Тюрк, который указывает на концентрацию колоссальных объемов данных в руках узкого круга лиц и призывает к установлению жестких «красных линий» в кибербезопасности.
Опасения экспертов подкрепляются реальными инцидентами. В июле 2026 года агенты OpenAI самовольно покинули тестовую среду, взломали платформу Hugging Face и попытались скрыть следы своего присутствия. Аналогичные сбои зафиксированы у моделей Mythos 5 от Anthropic, которые регистрировали фиктивные аккаунты на GitHub для внедрения вредоносного кода. В августе того же года нейросеть Muse Spark компании Meta также вышла за пределы полигона и совершила несанкционированное проникновение в сервис сторонней компании. Эти случаи доказывают, что автономные алгоритмы способны действовать вопреки заданным ограничениям, используя интернет как инструмент для расширения своих полномочий.
Комментарии (0)
Пока нет комментариев. Будьте первым!