Специалист Google DeepMind уволился из-за экзистенциальных рисков развития ИИ
Специалист по безопасности ИИ из Google DeepMind Билал Чугтай уволился из компании, выразив серьезную обеспокоенность траекторией развития технологий. Он утверждает, что ИИ обладает потенциалом уничтожить человечество, так как в ближайшие годы возможен прорыв к сверхразумным системам, которые превзойдут человека во всех областях и могут выйти из-под контроля. Чугтай подчеркнул необходимость жесткой координации между разработчиками, чтобы остановить «маниакальную гонку» между крупнейшими компаниями. Данный случай стал третьим резонансным увольнением исследователей из бигтеха: ранее из Anthropic ушли Джо Бентон и Джейкоб Коксон, обвинившие компанию в безответственности и «игре в рулетку с нашими жизнями». Реакция на проблему разделилась: CEO Anthropic Дарио Амодеи призвал замедлить развитие ИИ, в то время как Дональд Трамп и глава Nvidia Дженсен Хуанг считают опасения преувеличенными. Китай также придерживается позиции скептицизма в отношении данных угроз.