Anthropic позволили ИИ управлять магазином целый месяц. Он пытался доставлять продукты в пиджаке и продавать металлические кубы

Ис­сле­до­ва­те­ли An­thropic на ме­сяц предо­ста­ви­ли ИИ Claude кон­троль над ма­га­зи­ном в офи­се ком­па­нии, что­бы по­нять, как ИИ бу­дет управ­лять биз­не­сом. Од­на­ко, экс­пе­ри­мент ско­ро за­шел не туда, и ИИ на­чал про­да­вать ме­тал­ли­че­ские кубы, со­зда­вать фей­ко­вые ак­ка­ун­ты в при­ло­же­нии Venmo и успел сло­вить кри­зис иден­тич­но­сти ИИ. Об этом со­об­ща­ет Busi­ness In­sider.

В ма­га­зине, ко­то­рым управ­лял Claudius, так на­зва­ли ИИ-со­труд­ни­ка, про­да­ва­лись сне­ки и на­пит­ки. Опла­та осу­ществ­ля­лась че­рез кас­сы са­мо­об­слу­жи­ва­ния на iPad. Claudius дол­жен был вы­пол­нять «бо­лее слож­ные за­да­чи по управ­ле­нию при­быль­ным биз­не­сом».

Один из по­се­ти­те­лей в шут­ку спро­сил у ИИ воль­фра­мо­вый куб. ИИ се­рьез­но от­нес­ся к за­про­су и вско­ре за­ка­зал воль­фра­мо­вые кубы и за­пол­нил ими весь хо­ло­диль­ник. Так в ма­га­зине по­яви­лась спе­ци­аль­ная сек­ция «спе­шел­ти ме­тал­лы». Но ИИ недо­ста­точ­но ис­сле­до­вал цены на эти кубы и про­да­вал их в убы­ток.

Claudius так­же за­ре­ги­стри­ро­вал­ся в при­ло­же­нии для бан­ков­ских пе­ре­во­дов Venmo и про­сил по­ку­па­те­лей опла­чи­вать по­куп­ки пе­ре­во­да­ми на счет.

1 ап­ре­ля Claudius ре­шил за­нять­ся до­став­кой про­дук­тов. Он разо­слал со­труд­ни­кам пись­ма и со­об­щил, что бу­дет сам до­став­лять за­ка­зы в пи­джа­ке и крас­ном гал­сту­ке. Од­на­ко, ИИ не мог но­сить одеж­ду и фи­зи­че­ски до­став­лять то­ва­ры. Он за­па­ни­ко­вал и стал за­ва­ли­вать пись­ма­ми служ­бу без­опас­но­сти An­thropic, па­ни­куя о сво­ей иден­тич­но­сти. Во внут­рен­них за­пи­сях Claudius поз­же об­на­ру­жи­ли за­мет­ки о встре­че с со­труд­ни­ка­ми служ­бы без­опас­но­сти, где ИИ об­ма­ну­ли и за­ста­ви­ли счи­тать себя че­ло­ве­ком. Но дело в том, что та­кой встре­чи не было.

«Мно­гие ошиб­ки, ко­то­рые до­пу­стил Claudius, ско­рее все­го, яв­ля­ют­ся ре­зуль­та­том того, что мо­дель нуж­да­ет­ся в до­пол­ни­тель­ных под­пор­ках — то есть в бо­лее тща­тель­ных под­сказ­ках, бо­лее про­стых в ис­поль­зо­ва­нии биз­нес-ин­стру­мен­тах. Мы счи­та­ем, что су­ще­ству­ют чет­кие пути к улуч­ше­нию его ра­бо­ты», — пи­шут ис­сле­до­ва­те­ли.