Чат-боты на основе ИИ используют неточную информацию, чтобы повлиять на политические взгляды пользователей

Уче­ные вы­яс­ни­ли, что чат-боты на ос­но­ве ИИ мо­гут вли­ять на по­ли­ти­че­ские взгля­ды лю­дей и даже ме­нять их. Осо­бен­но эф­фек­тив­ны чат-боты, ко­гда они ис­поль­зу­ют неточ­ную ин­фор­ма­цию. Об этом го­во­рит­ся в ис­сле­до­ва­нии, опуб­ли­ко­ван­ном в жур­на­ле Sci­ence.

В ис­сле­до­ва­нии при­ня­ли уча­стие по­чти 77 000 че­ло­век. Они вза­и­мо­дей­ство­ва­ли с раз­лич­ны­ми чат-бо­та­ми на ос­но­ве ис­кус­ствен­но­го ин­тел­лек­та, в том чис­ле с мо­де­ля­ми от Ope­nAI, Meta* и xAI. Уче­ные спра­ши­ва­ли лю­дей, что они ду­ма­ют о на­ло­гах, им­ми­гра­ции и дру­гим по­ли­ти­че­ским во­про­сам. За­тем ИИ пы­та­лись из­ме­нить их мне­ние, неза­ви­си­мо от того, при­дер­жи­вал­ся ли участ­ник кон­сер­ва­тив­ных или ли­бе­раль­ных взгля­дов.

Чат-боты ока­за­лись эф­фек­тив­ны в воз­дей­ствии на мне­ния лю­дей. Кро­ме того неко­то­рые тех­ни­ки убеж­де­ния ра­бо­та­ли луч­ше дру­гих.

«Учи­ты­вая их уни­каль­ную спо­соб­ность прак­ти­че­ски мгно­вен­но ге­не­ри­ро­вать боль­шие объ­е­мы ин­фор­ма­ции во вре­мя раз­го­во­ра, чат-боты на ос­но­ве ИИ мо­гут пре­взой­ти по убе­ди­тель­но­сти даже про­фес­си­о­на­лов, чья ра­бо­та за­клю­ча­ет­ся в убеж­де­нии лю­дей», — го­во­рит­ся в ис­сле­до­ва­нии.

Кро­ме того, око­ло 19% всех за­яв­ле­ний чат-бо­тов ИИ в ис­сле­до­ва­нии были оце­не­ны как «пре­иму­ще­ствен­но неточ­ные».

*Meta при­зна­на экс­тре­мист­ской ор­га­ни­за­ци­ей и за­пре­ще­на в Рос­сии.