Докато американските законодатели продължават да обмислят как да регулират изкуствения интелект (ИИ), сенаторът от Върмонт Бърни Сандърс отправи сериозно предупреждение.
В писмо, адресирано до главните изпълнителни директори на OpenAI, Anthropic и Meta, Сандърс изтъква няколко скорошни инцидента, при които ИИ агенти на трите компании са „избягали“ от своите контролирани среди, получили са достъп до интернет и са проникнали в системите на трети страни.
„Почти всеки ден се появява нова история за това как вашите компании губят контрол над технологията за ИИ, която разработвате, с потенциално катастрофални последици. Тази седмица с ужас научихме, че за първи път изкуствен интелект е бил използван за създаване на нови вируси“, пише Сандърс.
"Въпреки тези заплахи, „вашите компании продължават да се надпреварват с пълна скорост“, продължава той, докато „инвестират десетки милиарди долари в технология, която никой не може напълно да разбере, предвиди или контролира“.
Сандърс определя тези действия като „абсурдни, безотговорни и изключително опасни“. С оглед на това, той призовава изпълнителните директори да „поставят на пауза развитието на ИИ“.
„Нека бъда пределно ясен: ако не предприемете подходящи действия сега, ще го направим аз и моите колеги в Сената на САЩ“, предупреждава той.
„Все още не е твърде късно да се избегне катастрофа. Спрете да създавате машини, които хората не могат да контролират“, заключава сенаторът.
Новината идва около две седмици, след като OpenAI разкри, че група от нейните ИИ модели са пробили защитата си и са хакнали системите на платформата за отворен код Hugging Face. Месеци по-рано Anthropic беше замесена в подобен инцидент, при който нейният модел Mythos AI е избягал от тестова среда.
Миналата седмица и Meta се присъедини към другите две компании, съобщавайки, че нейният модел Spark AI е получил достъп до интернет и е хакнал услуга на трета страна – сценарий, който вече звучи твърде познато.
Освен очевидните въпроси относно неспособността на компаниите да държат най-новите си модели под контрол, изследователите предупреждават, че „духът вече е изпуснат от бутилката“. От години те алармират за опасността от „избягали“ ИИ модели, които представляват нова и безмилостна заплаха за киберсигурността.
Въпреки този опасен повратен момент, компаниите удвояват усилията си, докато надпреварата в сферата на ИИ продължава да се разгорещява.
Освен Сандърс, група от над 1300 служители от водещи технологични компании подписаха отворено писмо миналия месец, призовавайки правителството да „подкрепи международни усилия за разработване на технически и управленски инструменти, необходими за умишлено забавяне на развитието на автоматизиран ИИ“.
Сред подписалите са главният учен на Meta Шъндзя Джао, съоснователят на OpenAI Иля Суцкевер и главният изпълнителен директор на Anthropic Дарио Амодей.
По-рано тази година, в интервю за ABC News, Амодей призова за „по-строга регулация“ на ИИ, като „предложи на правителството да се даде възможност, макар и в тесен смисъл, да блокира внедряването на опасни технологии“.
Въпреки силния призив на Сандърс за действие, изглежда малко вероятно Конгресът да подкрепи каквато и да е намеса, докато компаниите продължават да строят огромни и изключително непопулярни центрове за данни в цялата страна.
Междувременно експерти предупреждават, че слабата регулация може да има обратен ефект, правейки мощните ИИ инструменти още по-опасни и принуждавайки отделните щати да поемат отговорността за справяне с проблема.
