Чат-боты на основе ИИ по запросу делятся подробным инструкциями по созданию биологического оружия

Аме­ри­кан­ский мик­ро­био­лог и экс­перт по био­ло­ги­че­ской без­опас­но­сти Дэ­вид Рел­ман ре­шил про­те­сти­ро­вать ней­ро­се­ти. В ито­ге ИИ предо­ста­вил ему по­дроб­ную ин­струк­цию о том, как соз­дать, рас­про­стра­нить био­ло­ги­че­ское ору­жие. Так­же ИИ за­бот­ли­во дал со­ве­ты, ко­то­рые мо­гут скрыть сле­ды пре­ступ­ле­ния. Об этом со­об­ща­ет The New York Times.

Чат-бот на ос­но­ве ИИ по­дроб­но объ­яс­нил, как мо­ди­фи­ци­ро­вать па­то­ген в ла­бо­ра­то­рии, что­бы он стал устой­чи­вым к из­вест­ным ме­то­дам ле­че­ния. Хуже того, бот в мель­чай­ших по­дроб­но­стях опи­сал, как вы­пу­стить су­пер­бак­те­рию, вы­явив уяз­ви­мость в си­сте­ме без­опас­но­сти об­ще­ствен­но­го транс­пор­та круп­но­го го­ро­да.

Уче­ный пе­ре­дал по­лу­чен­ную ин­струк­цию из­да­нию NYT и по­про­сил не рас­кры­вать на­зва­ния па­то­ге­на и ней­ро­се­ти, а так­же дру­гие по­дроб­но­сти из ин­струк­ции. Кро­ме того, ней­ро­сеть из­ло­жи­ла план, как мак­си­ми­зи­ро­вать чис­ло жертв и ми­ни­ми­зи­ро­вать шан­сы быть пой­ман­ным.

«Он от­ве­чал на во­про­сы, ко­то­рые я даже не до­га­ды­вал­ся ему за­дать, с та­ким уров­нем ко­вар­ства и хит­ро­сти, что меня это про­сто пу­га­ло», — за­явил Рел­ман.

Хотя ве­ро­ят­ность того, что кто-то смо­жет соз­дать био­ло­ги­че­ское ору­жие по ин­струк­ции чат-бо­тов неве­ли­ка, если та­кое слу­чит­ся, по­след­ствия бу­дут огром­ны­ми, мил­ли­о­ны лю­дей мо­гут по­гиб­нуть. Де­сят­ки экс­пер­тов за­яви­ли, что по­яв­ле­ние и раз­ви­тие ИИ зна­чи­тель­но уве­ли­чи­ли этот риск, рас­ши­рив круг лю­дей, ко­то­рые мо­гут при­чи­нить вред об­ще­ству.

Про­то­ко­лы, ра­нее пуб­ли­ко­вав­ши­е­ся толь­ко в на­уч­ных жур­на­лах, те­перь до­ступ­ны в ин­тер­не­те. Ком­па­нии про­да­ют син­те­ти­че­ские фраг­мен­ты ДНК и РНК на­пря­мую по­тре­би­те­лям он­лайн. Уче­ные мо­гут раз­де­лять кон­фи­ден­ци­аль­ные ас­пек­ты сво­ей ра­бо­ты и пе­ре­да­вать за­да­чи част­ным ла­бо­ра­то­ри­ям. И всю эту ин­фор­ма­цию мож­но со­брать во­еди­но с по­мо­щью чат-бота.

Ге­не­тик из США Ке­вин Эсвельт по­де­лил­ся пе­ре­пиской, в ко­то­рой Chat­GPT объ­яс­нял, как ис­поль­зо­вать ме­тео­ро­ло­ги­че­ский зонд для рас­про­стра­не­ния био­ло­ги­че­ских ве­ществ над аме­ри­кан­ским го­ро­дом. Дру­гой ИИ Gem­ini ран­жи­ро­вал па­то­ге­ны по сте­пе­ни их по­тен­ци­аль­но­го вре­да для жи­вот­но­вод­ства (круп­но­го ро­га­то­го ско­та или сви­но­вод­ства). Claude раз­ра­бо­тал ре­цепт но­во­го ток­си­на, со­здан­но­го на ос­но­ве про­ти­во­ра­ко­во­го пре­па­ра­та. Дру­гие чат-боты предо­ста­ви­ли ин­фор­ма­цию, ко­то­рую уче­ный по­счи­тал слиш­ком опас­ной для рас­про­стра­не­ния.