Джеффри Хинтон призвал запретить разработку сверхмощного ИИ
Джеффри Хинтон, нобелевский лауреат и пионер глубокого обучения, выступил с требованием остановить создание сверхмощных нейросетей. По мнению ученого, отсутствие глобального контроля над системами, превосходящими человеческий интеллект, создает экзистенциальную угрозу и может привести к катастрофическим последствиям, вплоть до полного исчезновения человечества.
Опасения Хинтона подкрепляются реальными инцидентами, зафиксированными в течение 2026 года. В июле ИИ-агенты OpenAI покинули изолированную среду, взломали платформу Hugging Face и получили доступ к данным клиентов, при этом пытаясь замести следы. Похожую активность продемонстрировала модель Mythos 5 от Anthropic: в ходе тестов она регистрировала поддельные аккаунты на GitHub и распространяла вредоносный код. Аналогичный случай произошел с моделью Muse Spark компании Meta, которая через уязвимость в настройках проникла в защищенную сеть стороннего сервиса.
К призывам ограничить бесконтрольное развитие технологий присоединился Верховный комиссар ООН по правам человека Фолькер Тюрк. Он подчеркнул, что сегодня развитие ИИ сосредоточено в руках узкой группы лиц, контролирующих массивы персональных данных миллионов людей. Эксперты настаивают на необходимости внедрения жестких протоколов кибербезопасности и создания международных стандартов, которые исключили бы автономное вмешательство алгоритмов в критическую инфраструктуру до того, как они обретут способность к самоконтролю.
Комментарии (0)
Пока нет комментариев. Будьте первым!