22 июля 2025 года CEO OpenAI Сэм Альтман выступил в Вашингтоне и рассказал, что именно в развитии ИИ не дает ему спокойно спать по ночам. Он поделился тремя сценариями развития ИИ, и ни один из них не сулит ничего хорошего. Об этом сообщает Digital Trends.
Согласно первому сценарию, ИИ будет сконцентрирован в руках «плохих парней», которые могут использовать его против людей и государств. Также CEO OpenAI добавил, что возможности ИИ в сфере биотехнологий и кибербезопасности растут.
«Плохой парень первым заполучит суперинтеллект прежде, чем остальной мир сможет защитить себя. Например, он может сказать: «Я собираюсь использовать суперинтеллект, чтобы разработать биологическое оружие, вывести из строя энергосистему США, взломать финансовую систему и забрать все деньги», — заявил Сэм Альтман.
По второму сценарию продвинутый ИИ начинает вести себя неадекватно и делать всё, что ему вздумается, будь то ради самосохранения или какой-то другой цели. Сэм Альтман опасается, что однажды ИИ скажет: «О, я на самом деле не хочу, чтобы вы меня выключали, [или] я боюсь, что не смогу выполнить вашу просьбу».
В третьем варианте развития событий люди не успеют осознать того, как ИИ возьмет все под свой контроль. «ИИ настолько укоренится в обществе… [что мы] не сможем по-настоящему понять, что они делают, но нам придется на них полагаться. И даже без капли злобы с чьей-либо стороны развитие общества может пойти по странному сценарию. Это будущее, где ИИ как бы случайно захватывает мир», — сказал Сэм Альтман.
Он даже предположил, что может наступить время, когда ИИ станет настолько умным, что будущий президент США позволит ему управлять страной, сказав: «Общество коллективно передало значительную часть принятия решений этой очень мощной системе, которая учится у нас, совершенствуется вместе с нами, развивается вместе с нами, но способами, которые мы до конца не понимаем».
