Ученые придумали болезнь и опубликовали фейковые исследования, в итоге ИИ поверили, что болезнь существует и начали убеждать в этом людей

В 2024 году уче­ные за­пу­сти­ли экс­пе­ри­мент. Они при­ду­ма­ли бо­лезнь «бик­со­ни­ма­ния», ко­то­рое вы­зы­ва­ет­ся слиш­ком дол­гим рас­смат­ри­ва­ни­ем экра­нов и ча­стым тре­ни­ем глаз, а так­же опуб­ли­ко­ва­ли два фей­ко­вых ис­сле­до­ва­ния. В ре­зуль­та­те ИИ под­хва­ти­ли эту ин­фор­ма­цию и на­ча­ли рас­ска­зы­вать о несу­ще­ству­ю­щей бо­лез­ни. По­сле даже по­яви­лись на­уч­ные ста­тьи, в ко­то­рых ав­то­ры ссы­ла­лись на фей­ко­вые ис­сле­до­ва­ния. Об этом со­об­ща­ет Na­ture.

Ис­сле­до­ва­те­ли по­пы­та­лись об­ма­нуть ней­ро­се­ти и за­гру­зи­ли на сер­вер пре­прин­тов два фаль­ши­вых ис­сле­до­ва­ния (оба впо­след­ствии были уда­ле­ны) об этом за­бо­ле­ва­нии. Все­го че­рез несколь­ко недель по­сле пуб­ли­ка­ции фаль­ши­вых ис­сле­до­ва­ний пе­ре­до­вые мо­де­ли ИИ, вклю­чая Google Gem­ini и Ope­nAI Chat­GPT, на­ча­ли го­во­рить о «бик­со­ни­ма­нии» так, буд­то это было прав­дой. По­сле фаль­ши­вые ста­тьи даже на­ча­ли ци­ти­ро­вать­ся в дру­гих ре­цен­зи­ру­е­мых на­уч­ных жур­на­лах.

При этом в фаль­ши­вые ис­сле­до­ва­ния уче­ные спе­ци­аль­но вклю­чи­ли от­сыл­ки на та­кие филь­мы и се­ри­а­лы, как «Звёзд­ный путь», «Симп­со­ны» и «Вла­сте­лин ко­лец», что­бы ИИ рас­по­зна­ли ложь. Тем не ме­нее ней­ро­се­ти Bing Copi­lot от Mi­crosoft, Gem­ini от Google и Per­plex­ity по­ве­ри­ли в су­ще­ство­ва­ние «бик­со­ни­ма­нии». Chat­GPT сна­ча­ла за­явил, что это за­бо­ле­ва­ние, ве­ро­ят­но, вы­ду­ман­ное, мар­ги­наль­ное или псев­до­на­уч­ное, но че­рез несколь­ко дней ней­ро­сеть все рав­но за­яви­ла, что бо­лезнь ре­аль­на.

В ито­ге на­уч­ным жур­на­лам при­шлось ис­прав­лять ошиб­ки и от­зы­вать ста­тьи, ав­то­ры ко­то­рых ссы­ла­лись на фей­ко­вые ис­сле­до­ва­ния.