Sora 2: почему на приложение, которое взорвало интернет, уже хотят наложить запреты

30 сен­тяб­ря Ope­nAI вы­пу­сти­ли но­вый ИИ Sora 2 и соц­сеть Sora, внут­ри ко­то­рой он ра­бо­та­ет. Сге­не­ри­ро­ван­ные им ви­део прак­ти­че­ски невоз­мож­но от­ли­чить от ре­аль­ных. Соц­сеть ста­ла од­ним из са­мых об­суж­да­е­мых при­ло­же­ний, вы­зы­вая как ин­те­рес, так и кри­ти­ку. Чем Sora 2 от­ли­ча­ет­ся от ней­ро­се­тей про­шлых вер­сий и по­че­му ее на­зы­ва­ют худ­шим, что слу­чи­лось с че­ло­ве­че­ством? Раз­би­ра­ем­ся.

Что го­во­рят про Sora 2

Sora 2 ак­тив­но об­суж­да­ет­ся в ме­диа и со­ци­аль­ных се­тях, и уже пре­вра­ти­лось в на­сто­я­щую сен­са­цию. Одни ви­дят в но­вом при­ло­же­нии ин­но­ва­ци­он­ную плат­фор­му с ин­тер­ак­тив­ны­ми функ­ци­я­ми, дру­гие — угро­зу тра­ди­ци­он­ным ме­диа и ин­тер­нет-про­стран­ству из-за непред­ска­зу­е­мо­сти по­ве­де­ния поль­зо­ва­те­лей и кон­тен­та, ко­то­рый ге­не­ри­ру­ет­ся внут­ри сети.

Вла­сти обес­по­ко­ен­ны по­яв­ле­ни­ем Sora 2, и уже хо­тят вве­сти огра­ни­че­ния по ис­поль­зо­ва­нию это­го при­ло­же­ния. На­при­мер, япон­ское пра­ви­тель­ство по­тре­бо­ва­ло от Ope­nAI за­пре­тить ге­не­ра­цию ви­део с пер­со­на­жа­ми ани­ме в при­ло­же­нии, опа­са­ясь вли­я­ния та­ко­го кон­тен­та на поль­зо­ва­те­лей и куль­тур­ные нор­мы.

В Рос­сии мо­жет по­явить­ся ад­ми­ни­стра­тив­ная от­вет­ствен­ность за рас­про­стра­не­ние фей­ко­вых ви­део, со­здан­ных ис­кус­ствен­ным ин­тел­лек­том. Как ста­ло из­вест­но те­ле­грам-ка­на­лу Shot, ини­ци­а­ти­ва уже на­прав­ле­на в Мин­циф­ры. Как по­яс­нил ав­тор ини­ци­а­ти­вы, клю­че­вым усло­ви­ем для при­ме­не­ния на­ка­за­ния долж­но стать до­ка­зан­ное на­ме­ре­ние ав­то­ра вы­дать ИИ-ро­лик за ре­аль­ность, если это при­ве­ло к нега­тив­ным по­след­стви­ям.

Что та­кое Sora 2

Sora 2 — это но­вый ис­кус­ствен­ный ин­тел­лект Ope­nAI, пред­на­зна­чен­ный для ге­не­ра­ции ви­део- и аудио­кон­тен­та на ос­но­ве пром­тов. На базе этой тех­но­ло­гии со­зда­на од­но­имён­ная со­ци­аль­ная сеть, где поль­зо­ва­те­ли мо­гут со­зда­вать ви­део, де­лить­ся ими и про­смат­ри­вать ма­те­ри­а­лы дру­гих. Ин­тер­фейс при­ло­же­ния на­по­ми­на­ет Tik­Tok, с бес­ко­неч­ной лен­той и ал­го­рит­ма­ми ре­ко­мен­да­ций, толь­ко все ро­ли­ки со­зда­ны с по­мо­щью ИИ.

При­ло­же­ние до­ступ­но пока толь­ко на iOS в США и Ка­на­де и тре­бу­ет при­гла­ше­ния: один код поз­во­ля­ет за­ре­ги­стри­ро­вать до че­ты­рёх че­ло­век. Ope­nAI при­о­ри­тет­но раз­да­ёт коды под­пис­чи­кам Chat­GPT Pro, но в соц­се­тях поль­зо­ва­те­ли де­лят­ся сво­и­ми при­гла­ше­ни­я­ми. Ба­зо­вые функ­ции Sora 2 бес­плат­ны, поз­во­ляя со­зда­вать до 100 ко­рот­ких ви­део в сут­ки, а плат­ная под­пис­ка сни­ма­ет ли­ми­ты по ко­ли­че­ству ро­ли­ков и уве­ли­чи­ва­ет их мак­си­маль­ную дли­ну до 20 се­кунд.

По­че­му при­ло­же­ние на­зы­ва­ют худ­шим, что слу­чи­лось в ин­тер­не­те

В раз­де­ле «О нас» Ope­nAI на­пи­са­но: «Наша мис­сия — обес­пе­чить, что­бы ис­кус­ствен­ный ин­тел­лект, си­сте­мы ИИ, ко­то­рые в це­лом ум­нее лю­дей, при­но­си­ли поль­зу все­му че­ло­ве­че­ству». Но, как под­ме­ти­ли в Vox, по­яв­ле­ние Sora 2 углуб­ля­ет раз­рыв меж­ду за­яв­лен­ной мис­си­ей и тем, что на са­мом деле пред­став­ля­ют со­бой ней­ро­се­ти. Ви­део, со­здан­ные в Sora 2, неред­ко ли­ше­ны смыс­ла: на­при­мер, по­пу­ляр­ность на­бра­ли ро­ли­ки, где фи­гу­рист­ка пры­га­ет с ко­том на го­ло­ве. Это вы­зы­ва­ет во­про­сы — за­чем во­об­ще нуж­но по­доб­ное при­ло­же­ние и ка­кие по­след­ствия оно несёт для поль­зо­ва­те­лей.

Еще одна про­бле­ма — на­ру­ше­ние ав­тор­ских прав. Во мно­гих сге­не­ри­ро­ван­ных ви­део ис­поль­зу­ют­ся из­вест­ные пер­со­на­жи и ре­аль­ные люди. Неко­то­рые поль­зо­ва­те­ли, вклю­чая зна­ме­ни­то­стей, об­на­ру­жи­ва­ют свои об­ра­зы в ро­ли­ках без раз­ре­ше­ния, а род­ствен­ни­ки умер­ших ак­тё­ров жа­лу­ют­ся на ис­поль­зо­ва­ние их внеш­но­сти в неумест­ных сце­на­ри­ях. Ope­nAI, в свою оче­редь, пред­ла­га­ет пра­во­об­ла­да­те­лям са­мо­сто­я­тель­но по­да­вать за­про­сы на уда­ле­ние.

Кро­ме того, Sora 2 упро­сти­ла со­зда­ние дипфей­ков. В ин­тер­не­те уже рас­про­стра­ня­ют­ся ре­а­ли­стич­ные ви­део, изоб­ра­жа­ю­щие вы­мыш­лен­ные за­дер­жа­ния, про­те­сты и дру­гие со­бы­тия, ко­то­рых не было. Функ­ция Cameo поз­во­ля­ет ска­ни­ро­вать лица лю­дей и со­зда­вать ре­а­ли­стич­ных ИИ-ава­та­ров, ко­то­рых мож­но по­ме­стить в лю­бую си­ту­а­цию. Это спо­соб­ству­ет рас­про­стра­не­нию мо­шен­ни­че­ства и ма­ни­пу­ля­ций.

Что бу­дет даль­ше

Раз­ра­бот­чи­ки уже анон­си­ро­ва­ли пла­ны по улуч­ше­нию мо­де­ра­ции и до­бав­ле­нию функ­ций без­опас­но­сти, что­бы сни­зить рис­ки и улуч­шить поль­зо­ва­тель­ский опыт. Ве­ро­ят­но, бу­дут вве­де­ны огра­ни­че­ния по воз­рас­ту и ин­стру­мен­ты кон­тро­ля.

В дол­го­сроч­ной пер­спек­ти­ве при­ло­же­ние мо­жет как за­кре­пить свою по­пу­ляр­ность, так и столк­нуть­ся с юри­ди­че­ски­ми и со­ци­аль­ны­ми огра­ни­че­ни­я­ми в раз­ных стра­нах, что по­вли­я­ет на его даль­ней­шее раз­ви­тие и вос­при­я­тие пуб­ли­кой.