«Совершенствовать интеллект труднее, чем быть просто разумным». 5 причин, почему сингулярность не наступит

Сю­же­ты из се­ри­а­ла «Чер­ное зер­ка­ло» да­ле­ки от бли­жай­ше­го бу­ду­ще­го — син­гу­ляр­ность вряд ли ско­ро на­сту­пит. Это пред­ска­зы­ва­ют экс­пер­ты жур­на­ла New Sci­en­tist, ста­тьи ко­то­рых под ре­дак­ци­ей Ду­гла­са Хэ­ве­на со­бра­ны в кни­ге «Ис­кус­ствен­ный ин­тел­лект. Что сто­ит знать о на­сту­па­ю­щей эпо­хе ра­зум­ных ма­шин» из­да­тель­ства АСТ. Ав­то­ры так­же рас­ска­зы­ва­ют о том, как соз­дать ИИ, мо­гут ли ма­ши­ны со­зда­вать про­из­ве­де­ния ис­кус­ства и как они из­ме­нят наш мир. «Цех» пуб­ли­ку­ет гла­ву «Пять при­чин, по ко­то­рым син­гу­ляр­но­сти не бы­вать».

Со­об­ща­ет­ся, что по­сле об­суж­де­ний воз­мож­но­го ИИ-апо­ка­лип­си­са с Де­ми­сом Хас­са­би­сом из Deep­Mind Сти­вен Хокинг, не об­ла­да­ю­щий долж­ным объ­е­мом спе­ци­аль­ных зна­ний по ИИ, смяг­чил свои про­гно­зы. Но опа­се­ния, вы­ра­жа­е­мые ря­дом ав­то­ри­тет­ных ли­де­ров мне­ний, вклю­чая Хокин­га и Бил­ла Гейт­са, вра­ща­ют­ся во­круг идеи син­гу­ляр­но­сти. Син­гу­ляр­ность про­ро­чит, что Зем­лю за­се­лят бо­лее ра­зум­ные виды. Мы мо­жем про­сле­дить эво­лю­цию дан­ной идеи до несколь­ких мыс­ли­те­лей, вклю­чая Джо­на фон Ней­ма­на (од­но­го из ос­но­ва­те­лей вы­чис­ли­тель­ной тех­ни­ки) и Вер­но­ра Вин­джа (пи­са­те­ля-фан­та­ста).

Идея син­гу­ляр­но­сти су­ще­ству­ет столь­ко же, сколь­ко и сам ИИ. В 1958 году ма­те­ма­тик Ста­ни­слав Улам на­пи­сал по­свя­ще­ние недав­но умер­ше­му фон Ней­ма­ну, в ко­то­ром го­во­ри­лось сле­ду­ю­щее: «Один раз­го­вор был по­свя­щен все бо­лее уско­ря­ю­ще­му­ся тех­но­ло­ги­че­ско­му про­грес­су и тем из­ме­не­ни­ям в об­ра­зе жиз­ни лю­дей, ко­то­рые ука­зы­ва­ют на при­бли­же­ние неиз­беж­ной син­гу­ляр­но­сти <…> за пре­де­ла­ми ко­то­рой че­ло­век боль­ше не смо­жет ве­сти дела в при­выч­ном для него виде».

Су­ще­ству­ет несколь­ко при­чин для стра­ха пе­ред ма­ши­на­ми с ин­тел­лек­том, пре­вос­хо­дя­щим наш. По сути люди ста­ли до­ми­ни­ру­ю­щим ви­дом на пла­не­те толь­ко бла­го­да­ря ин­тел­лек­ту. Мно­гие жи­вот­ные круп­нее, быст­рее и силь­нее нас. Но мы ис­поль­зо­ва­ли наш ин­тел­лект для со­зда­ния ин­стру­мен­тов, сель­ско­го хо­зяй­ства и мно­гих уди­ви­тель­ных тех­но­ло­гий, вклю­чая паро- и элек­тро­дви­га­те­ли, а так­же смарт­фо­ны. Все это из­ме­ни­ло наши жиз­ни и поз­во­ли­ло нам за­нять гла­вен­ству­ю­щую роль на пла­не­те. По­это­му неуди­ви­тель­но, что ма­ши­ны, ко­то­рые мыс­лят — и мо­гут мыс­лить луч­ше нас, — спо­соб­ны сверг­нуть нас с пье­де­ста­ла. И то­гда наше соб­ствен­ное су­ще­ство­ва­ние бу­дет за­ви­сеть от ре­ше­ний пре­вос­хо­дя­щих нас по ин­тел­лек­ту ма­шин. По­доб­но тому, как жиз­ни сло­нов, дель­фи­нов и панд под­чи­не­ны на­шей доб­рой воле.

Идея ин­тел­лек­ту­аль­но­го взры­ва, при ко­то­ром ма­ши­ны на­чи­на­ют ре­кур­сив­но со­вер­шен­ство­вать соб­ствен­ный ин­тел­лект и стре­ми­тель­но пре­вос­хо­дят воз­мож­но­сти че­ло­ве­че­ско­го ра­зу­ма, боль­ше не ка­жет­ся та­кой уж бре­до­вой. Об­ласть ма­шин­ных вы­чис­ле­ний лишь вы­иг­ра­ет от та­ких экс­по­нен­ци­аль­ных тен­ден­ций. По­это­му не ис­клю­че­но, что сфе­ра ИИ так­же про­де­мон­стри­ру­ет экс­по­нен­ци­аль­ный рост.

Но есть несколь­ко вес­ких при­чин, ука­зы­ва­ю­щих на несбы­точ­ность син­гу­ляр­но­сти.

1. Ар­гу­мент о «быст­ро ду­ма­ю­щей со­ба­ке»

Если срав­нить че­ло­ве­че­ский мозг и крем­ний, то по­след­ний бу­дет об­ла­дать зна­чи­тель­ным пре­иму­ще­ством по ча­сти ско­ро­сти. И по за­ко­ну Мура это пре­иму­ще­ство удва­и­ва­ет­ся в сред­нем каж­дые два года. Вот толь­ко ско­рость ни­как не ска­зы­ва­ет­ся на улуч­ше­нии ин­тел­лек­та. Даже если я на­учу со­ба­ку ду­мать быст­рее, вряд ли она смо­жет иг­рать в шах­ма­ты. У со­ба­ки от­сут­ству­ют необ­хо­ди­мые ум­ствен­ные кон­струк­ции, язык и аб­страк­ции. Сти­вен Пин­кер крас­но­ре­чи­во вы­ра­зил­ся о про­бле­ме: «Чи­стая вы­чис­ли­тель­ная мощ­ность — это не пыль­ца фей, ко­то­рая вол­шеб­ным об­ра­зом ре­шит все наши про­бле­мы».

©

Супер-компьютер / Wikicommons

---

Быть ра­зум­ным озна­ча­ет куда боль­шее, чем уметь ду­мать о чем-то быст­рее или доль­ше дру­гих. Ко­неч­но, за­кон Мура по­мог ИИ. Те­перь мы учим­ся быст­рее и на боль­ших на­бо­рах дан­ных. Шуст­рые ком­пью­те­ры, без­услов­но, по­мо­гут нам в со­зда­нии ис­кус­ствен­но­го ра­зу­ма. Но, на­при­мер, у лю­дей ин­тел­лект за­ви­сит от мно­гих дру­гих ве­щей, вклю­чая мно­го­лет­ний опыт и обу­че­ние. Со­всем не ясно, по­лу­чит­ся ли «уме­стить» все это в крем­нии, уве­ли­чив так­то­вую ча­сто­ту или до­ба­вив боль­ше па­мя­ти.

2. Ар­гу­мент об ан­тро­по­цен­триз­ме

Син­гу­ляр­ность пред­по­ла­га­ет, что че­ло­ве­че­ский ра­зум — это некий про­ме­жу­точ­ный этап, сво­е­го рода пе­ре­лом­ный мо­мент. Если в ис­то­рии на­у­ки и есть что-то, чему мы долж­ны были на­учить­ся, — так это то, что мы не та­кие осо­бен­ные, как нам хо­те­лось бы ду­мать. Ко­пер­ник рас­ска­зал нам, что Все­лен­ная не вра­ща­ет­ся во­круг Зем­ли. Дар­вин по­ка­зал, что мы ни­чем не от­ли­ча­ем­ся от дру­гих обе­зьян. Уот­сон, Крик и Фран­клин от­кры­ли, что мы с про­стей­ши­ми аме­ба­ми ис­поль­зу­ем для жиз­ни один и тот же код ДНК. А ис­кус­ствен­ный ин­тел­лект га­ран­ти­ро­ван­но до­ка­жет нам, что сам по себе че­ло­ве­че­ский ра­зум не пред­став­ля­ет со­бой ни­че­го осо­бен­но­го. Нет ни­ка­ких ос­но­ва­ний по­ла­гать, буд­то че­ло­ве­че­ский ин­тел­лект ока­жет­ся тем са­мым пе­ре­лом­ным мо­мен­том, до­сти­же­ние ко­то­ро­го обес­пе­чит стре­ми­тель­ный рост ра­зум­но­сти.

Ко­неч­но, ин­тел­лект че­ло­ве­ка — это нечто осо­бен­ное, по­то­му как, на­сколь­ко нам из­вест­но, че­ло­ве­че­ский род уни­ка­лен сво­ей спо­соб­но­стью к со­зда­нию ма­те­ри­аль­ных объ­ек­тов, уси­ли­ва­ю­щих наши ин­тел­лек­ту­аль­ные спо­соб­но­сти. Мы един­ствен­ные су­ще­ства на пла­не­те, об­ла­да­ю­щие до­ста­точ­ны­ми ум­ствен­ны­ми спо­соб­но­стя­ми для раз­ра­бот­ки но­во­го ин­тел­лек­та. И этот но­вый ин­тел­лект не бу­дет огра­ни­чи­вать­ся мед­лен­ным про­цес­сом эво­лю­ции и ре­про­дук­ции че­ло­ве­ка. Од­на­ко мы все еще да­ле­ки от пе­ре­лом­но­го мо­мен­та, некой точ­ки ре­кур­сив­но­го са­мо­со­вер­шен­ство­ва­ния. У нас нет ар­гу­мен­тов в поль­зу того, что ра­зу­ма че­ло­ве­ка бу­дет до­ста­точ­но для со­зда­ния того са­мо­го ис­кус­ствен­но­го ин­тел­лек­та с со­от­вет­ству­ю­щим уров­нем ум­ствен­но­го раз­ви­тия, ко­то­рый и ста­нет от­прав­ной точ­кой для тех­но­ло­ги­че­ской син­гу­ляр­но­сти.

Даже если наши ум­ствен­ные воз­мож­но­сти поз­во­лят соз­дать сверх­че­ло­ве­че­ский ис­кус­ствен­ный ин­тел­лект, по­лу­чен­но­го ре­зуль­та­та мо­жет ока­зать­ся недо­ста­точ­но для при­бли­же­ния син­гу­ляр­но­сти. Ведь со­вер­шен­ство­вать ин­тел­лект куда труд­нее, чем быть про­сто ра­зум­ным.

3. Ар­гу­мент о за­коне убы­ва­ю­щей от­да­чи

Идея син­гу­ляр­но­сти пред­по­ла­га­ет, что улуч­ше­ние ин­тел­лек­та бу­дет про­ис­хо­дить за счет от­но­си­тель­но по­сто­ян­но­го мно­жи­те­ля, и каж­дое по­ко­ле­ние по­лу­чит боль­шую долю, чем преды­ду­щее. В то же вре­мя ра­бо­та боль­шин­ства на­ших си­стем ис­кус­ствен­но­го ин­тел­лек­та до сих пор сво­ди­лась к за­ко­ну сни­же­ния от­да­чи. Сна­ча­ла мно­гие вещи лег­ко­до­сти­жи­мы, но за­тем в по­ис­ке улуч­ше­ний мы стал­ки­ва­лись с ря­дом труд­но­стей. Это и объ­яс­ня­ет чрез­мер­ный оп­ти­мизм за­яв­ле­ний мно­гих ран­них ис­сле­до­ва­те­лей ИИ.

Си­сте­ма ИИ мо­жет бес­ко­неч­но улуч­шать себя, од­на­ко раз­ви­тие ин­тел­лек­та весь­ма огра­ни­че­но. На­при­мер, если каж­дое по­ко­ле­ние ал­го­рит­ма бу­дет улуч­шать­ся на по­ло­ви­ну от преды­ду­щей мо­ди­фи­ка­ции, то та­кая си­сте­ма не смо­жет вый­ти за пре­де­лы удво­е­ния сво­е­го об­ще­го ин­тел­лек­та.

4. Ар­гу­мент о «пре­де­лах ра­зум­но­сти»

Во Все­лен­ной есть мно­же­ство фун­да­мен­таль­ных огра­ни­че­ний. Часть из них — фи­зи­че­ская. На­при­мер, вы не мо­же­те разо­гнать­ся до ско­ро­сти све­та, знать од­но­вре­мен­но точ­ное по­ло­же­ние и им­пульс или усло­вия рас­па­да ра­дио­ак­тив­но­го ато­ма. Лю­бая со­здан­ная нами ра­зум­ная ма­ши­на бу­дет огра­ни­че­на за­ко­на­ми фи­зи­ки. Ко­неч­но же, если сама эта ма­ши­на ока­жет­ся элек­трон­ной или кван­то­вой, то фи­зи­че­ские огра­ни­че­ния вый­дут за био­ло­ги­че­ские и хи­ми­че­ские пре­де­лы че­ло­ве­че­ско­го моз­га.

Тем не ме­нее ИИ мо­жет от­лич­но ра­бо­тать даже в усло­ви­ях неко­то­рых фун­да­мен­таль­ных огра­ни­че­ний. Ряд огра­ни­че­ний обу­слов­лен свой­ствен­ной при­ро­де неопре­де­лен­но­стью. Вне за­ви­си­мо­сти от того, на­сколь­ко усерд­но мы раз­мыш­ля­ем о про­бле­ме, ка­че­ство при­ня­тых нами ре­ше­ний, ско­рее все­го, ока­жет­ся весь­ма огра­ни­чен­ным. Даже сверх­ра­зум не смо­жет пред­ска­зать по­бе­ди­те­ля ло­те­реи Eu­roMil­lions луч­ше нас са­мих.

5. Ар­гу­мент о «вы­чис­ли­тель­ной слож­но­сти»

И, на­ко­нец, в ин­фор­ма­ти­ке уже есть соб­ствен­ная тео­рия о слож­но­сти ре­ше­ния раз­лич­ных про­блем. Су­ще­ству­ет мно­же­ство вы­чис­ли­тель­ных про­блем, для прак­ти­че­ско­го ре­ше­ния ко­то­рых даже экс­по­нен­ци­аль­ных улуч­ше­ний ока­зы­ва­ет­ся недо­ста­точ­но. Ком­пью­тер не мо­жет ана­ли­зи­ро­вать код и точ­но знать мо­мент оста­нов­ки. Это на­зы­ва­ет­ся «про­бле­мой оста­нов­ки».

Как из­вест­но, Алан Тью­ринг до­ка­зал, что та­кая про­бле­ма во­об­ще не под­да­ет­ся вы­чис­ле­нию, вне за­ви­си­мо­сти от того, на­сколь­ко быст­рым или ум­ным мы сде­ла­ем ком­пью­тер, ана­ли­зи­ру­ю­щий код. Здесь по­мо­жет пе­ре­ход на дру­гие типы устройств (на­при­мер, кван­то­вые ком­пью­те­ры). Но они, по срав­не­нию с клас­си­че­ски­ми ком­пью­те­ра­ми, бу­дут пред­ла­гать толь­ко экс­по­нен­ци­аль­ные улуч­ше­ния, ко­то­рых ока­жет­ся недо­ста­точ­но для ре­ше­ния та­ких за­дач, как про­бле­ма оста­нов­ки. А ги­по­те­ти­че­ское по­яв­ле­ние ги­пер­ком­пью­те­ров, спо­соб­ных про­рвать­ся сквозь вы­чис­ли­тель­ные ба­рье­ры, оста­ет­ся весь­ма спор­ным.