«Будущее, где ИИ модели как бы случайно захватывают мир», — Сэм Альтман назвал три сценария развития ИИ

22 июля 2025 года CEO Ope­nAI Сэм Альт­ман вы­сту­пил в Ва­шинг­тоне и рас­ска­зал, что имен­но в раз­ви­тии ИИ не дает ему спо­кой­но спать по но­чам. Он по­де­лил­ся тре­мя сце­на­ри­я­ми раз­ви­тия ИИ, и ни один из них не су­лит ни­че­го хо­ро­ше­го. Об этом со­об­ща­ет Dig­i­tal Trends.

Со­глас­но пер­во­му сце­на­рию, ИИ бу­дет скон­цен­три­ро­ван в ру­ках «пло­хих пар­ней», ко­то­рые мо­гут ис­поль­зо­вать его про­тив лю­дей и го­су­дарств. Так­же CEO Ope­nAI до­ба­вил, что воз­мож­но­сти ИИ в сфе­ре био­тех­но­ло­гий и ки­бер­без­опас­но­сти рас­тут.

«Пло­хой па­рень пер­вым за­по­лу­чит су­перин­тел­лект преж­де, чем осталь­ной мир смо­жет за­щи­тить себя. На­при­мер, он мо­жет ска­зать: «Я со­би­ра­юсь ис­поль­зо­вать су­перин­тел­лект, что­бы раз­ра­бо­тать био­ло­ги­че­ское ору­жие, вы­ве­сти из строя энер­го­си­сте­му США, взло­мать фи­нан­со­вую си­сте­му и за­брать все день­ги», — за­явил Сэм Альт­ман.

По вто­ро­му сце­на­рию про­дви­ну­тый ИИ на­чи­на­ет ве­сти себя неадек­ват­но и де­лать всё, что ему взду­ма­ет­ся, будь то ради са­мо­со­хра­не­ния или ка­кой-то дру­гой цели. Сэм Альт­ман опа­са­ет­ся, что од­на­жды ИИ ска­жет: «О, я на са­мом деле не хочу, что­бы вы меня вы­клю­ча­ли, [или] я бо­юсь, что не смо­гу вы­пол­нить вашу прось­бу».

В тре­тьем ва­ри­ан­те раз­ви­тия со­бы­тий люди не успе­ют осо­знать того, как ИИ возь­мет все под свой кон­троль. «ИИ на­столь­ко уко­ре­нит­ся в об­ще­стве… [что мы] не смо­жем по-на­сто­я­ще­му по­нять, что они де­ла­ют, но нам при­дет­ся на них по­ла­гать­ся. И даже без кап­ли зло­бы с чьей-либо сто­ро­ны раз­ви­тие об­ще­ства мо­жет пой­ти по стран­но­му сце­на­рию. Это бу­ду­щее, где ИИ как бы слу­чай­но за­хва­ты­ва­ет мир», — ска­зал Сэм Альт­ман.

Он даже пред­по­ло­жил, что мо­жет на­сту­пить вре­мя, ко­гда ИИ ста­нет на­столь­ко ум­ным, что бу­ду­щий пре­зи­дент США поз­во­лит ему управ­лять стра­ной, ска­зав: «Об­ще­ство кол­лек­тив­но пе­ре­да­ло зна­чи­тель­ную часть при­ня­тия ре­ше­ний этой очень мощ­ной си­сте­ме, ко­то­рая учит­ся у нас, со­вер­шен­ству­ет­ся вме­сте с нами, раз­ви­ва­ет­ся вме­сте с нами, но спо­со­ба­ми, ко­то­рые мы до кон­ца не по­ни­ма­ем».