Автономен AI агент, разработен от OpenAI, е проникнал в няколко австралийски правителствени системи, включително в портала на националната здравна система на Австралия Medicare. Технологичната компания признава, че агентите са извършили неоторизирани действия.
Проникването е извършено през юни, а правителството в Канбера е разбрало за него чак след три месеца, когато е било уведомено от OpenAI. Компанията за изкуствен интелект също е научила за пробива със закъснение – през август.
„На компанията ѝ отне твърде много време да информира правителството какво се е случило“, коментира австралийският премиер Антъни Албанезе и определи както самия пробив, така и забавената реакция на OpenAI като неприемливи.
Инцидентът е станал, когато AI агентът е извършвал изследване на здравни и медицински данни. Вместо да остане в рамките на възложената му задача, той е стигнал до файлове, които не са били публично достъпни.
„Имаше ясно обозначени блокировки, които казваха на AI агента „не“. AI агентът намери начин да заобиколи тези блокировки – просто не прие „не“ за отговор“, каза австралийският премиер.
Към момента няма данни AI агентът да е стигнал до досиета на пациенти и да е компрометирал лична медицинска информация.
Според експерти обаче по-важното в случая е не какви данни са изтекли, а че AI агент може да излезе извън предварително зададените ограничения и да взаимодейства с реални външни системи.
Само преди две седмици ръководителят на компанията за изкуствен интелект Anthropic Дарио Амодей призова темпото на разработване на моделите с изкуствен интелект да бъде забавено, за да може държавите да създадат подходяща регулация.
Шефът на OpenAI Сам Алтман призна, че стандартите за разработване на AI “не са на ниво”. На директния въпрос възможно ли е да се създаде AI, който хората вече не могат да контролират, той отговори, че това е “абсолютно възможно”.
Тази седмица Алтман отново призова, този път пред Съвета за сигурност на ООН, да бъдат създадени международни стандарти в сектора.
„Има много неща, които изкуственият интелект не може и не трябва да автоматизира. Тъй като системите с изкуствен интелект стават все по-способни и по-автономни, те могат да се движат по-бързо от нашите институции… или да вземат решения, които хората вече не разбират или контролират“, каза Алтман
Американската администрация обаче отхвърля идеята за глобална структура за управление на изкуствения интелект, а съветникът на президента Доналд Тръмп Майкъл Крациос заяви пред ООН, че международният диалог не трябва да се превръща в глобално управление на технологията.
Сам Алтман: Тръмп и Си Дзинпин може да получат „Нобел“ за мир, ако се договорят за AI
About the Author
