В США ИИ-компания заявила на пользователя своей нейросети в полицию из-за подозрительной переписки

Ком­па­ния An­thropic по­да­ла за­яв­ле­ние в по­ли­цию на поль­зо­ва­те­ля сво­е­го ИИ Claude по­сле того, как на­шла в пе­ре­пис­ке с чат-бо­том со­об­ще­ния о плане «устро­ить стрель­бу» в офи­се ше­ри­фа. Об этом со­об­ща­ет WINK News.

Жи­тель­ни­цу шта­та Фло­ри­да в США аре­сто­ва­ли по­сле того, как она в пе­ре­пис­ке с ИИ чат-бо­том рас­ска­за­ла о пла­ни­ру­е­мом на­па­де­нии на офис ше­ри­фа окру­га Ли.

Со­глас­но про­то­ко­лу аре­ста, 26 сен­тяб­ря поль­зо­ва­тель­ни­ца ИИ за­яви­ла, что со­би­ра­ет­ся устро­ить стрель­бу в офи­се ше­ри­фа окру­га Ли. Сле­до­ва­те­ли утвер­жда­ют, что на сле­ду­ю­щий день жен­щи­на на­пи­са­ла чат-боту, что при­об­ре­ла но­вое ору­жие.

В про­то­ко­ле об аре­сте так­же го­во­рит­ся, что ИИ-плат­фор­ма An­thropic ис­поль­зу­ет меры без­опас­но­сти для от­сле­жи­ва­ния клю­че­вых фраз и по­тен­ци­аль­но угро­жа­ю­ще­го кон­тен­та. Сле­до­ва­те­ли рас­ска­за­ли, что из-за се­рьез­но­сти угро­зы ИИ пе­ре­дал ин­фор­ма­цию груп­пе экс­пер­тов, ко­то­рая за­тем со­об­щи­ла о по­тен­ци­аль­но опас­ных со­об­ще­ни­ях пра­во­охра­ни­тель­ным ор­га­нам.

Ше­риф Кар­мин Мар­че­но со­об­щил, что жен­щи­на ис­поль­зо­ва­ла ИИ в ка­че­стве лич­но­го днев­ни­ка. По­ли­цей­ские уста­но­ви­ли лич­ность жен­щи­ны и от­пра­ви­лись в ее дом в Бо­ни­та-Спрингс. Они за­дер­жа­ли ее на ме­сте и на­ча­ли рас­сле­до­ва­ние дела. Жен­щи­ну об­ви­ня­ют в пись­мен­ной угро­зе на­си­лия в со­от­вет­ствии с за­ко­но­да­тель­ством Фло­ри­ды.

Ше­риф так­же от­ме­тил, что ИИ мо­жет быть по­лез­ным ин­стру­мен­том, но так­же его мо­гут ис­поль­зо­вать не по на­зна­че­нию. «Ис­кус­ствен­ный ин­тел­лект — мощ­ный ин­стру­мент, и, как лю­бая тех­но­ло­гия, он мо­жет быть ис­поль­зо­ван не по на­зна­че­нию. Ко­гда кто-то ис­поль­зу­ет ИИ для со­зда­ния или со­дей­ствия угро­зе, мы долж­ны от­не­стись к этой угро­зе се­рьез­но», — за­явил Мар­че­но.

Kasin / Shut­ter­stock / Fotodom