OpenAI наняли клинического психиатра из-за того, что пользователи ChatGPT сходят с ума

Ком­па­ния Ope­nAI на­ня­ла су­деб­но­го пси­хи­ат­ра, что­бы по­нять, как об­ще­ние с Chat­GPT вли­я­ет на пси­хи­че­ское со­сто­я­ние поль­зо­ва­те­лей. Об этом со­об­ща­ет Fu­tur­ism.

У раз­ви­тия тех­но­ло­гий на ос­но­ве ИИ есть стран­ное по­след­ствие. Неко­то­рые поль­зо­ва­те­ли по­сле об­ще­ния с чат-бо­та­ми на­чи­на­ют ве­рить в свою ис­клю­чи­тель­ность, за­во­дят от­но­ше­ния с ИИ, у кого-то даже раз­ви­ва­ют­ся гал­лю­ци­на­ции.

Что­бы по­нять, по­че­му так про­ис­хо­дит, Ope­nAI на­ня­ли в штат кли­ни­че­ско­го пси­хи­ат­ра с опы­том ра­бо­ты в су­деб­ной пси­хи­ат­рии. Ком­па­ния так­же со­ве­ту­ет­ся и с дру­ги­ми экс­пер­та­ми в об­ла­сти пси­хи­че­ско­го здо­ро­вья.

«Мы ак­тив­но углуб­ля­ем наши ис­сле­до­ва­ния эмо­ци­о­наль­но­го воз­дей­ствия ИИ. Мы раз­ра­ба­ты­ва­ем спо­со­бы на­уч­но­го из­ме­ре­ния того, как по­ве­де­ние Chat­GPT мо­жет вли­ять на лю­дей эмо­ци­о­наль­но, и вни­ма­тель­но при­слу­ши­ва­ем­ся к тому, что ис­пы­ты­ва­ют люди», — го­во­рит­ся в за­яв­ле­нии ком­па­нии, предо­став­лен­ном Fu­tur­ism.

«Мы де­ла­ем это, что­бы иметь воз­мож­ность про­дол­жать со­вер­шен­ство­вать то, как наши мо­де­ли иден­ти­фи­ци­ру­ют со­об­ще­ния и со­от­вет­ству­ю­щим об­ра­зом ре­а­ги­ру­ют на чув­стви­тель­ные темы. Мы про­дол­жим об­нов­лять по­ве­де­ние на­ших мо­де­лей на ос­но­ве по­лу­чен­ных зна­ний», — до­ба­ви­ли в Ope­nAI.