Керівників OpenAI та Anthropic запросили до австралійського Сенату у зв'язку з розслідуванням, що стосується штучного інтелекту.
Публічні слухання відбудуться у Канберрі після інциденту з державною системою Medicare.
Голови OpenAI, Сем Альтман, і Anthropic, Даріо Амодеї, були запрошені на слухання в австралійському Сенаті з приводу питань, пов'язаних із штучним інтелектом. Цей запит виник після інциденту, коли агент OpenAI отримав доступ до бази даних системи Medicare. Про це повідомило інформаційне агентство Reuters.
Генеральних директорів OpenAI та Anthropic запросили до австралійського сенату для виступу перед комісією, що досліджує впливи прогресу в галузі штучного інтелекту. Це відбулося всього через кілька днів після інциденту, коли неконтрольований агент OpenAI отримав доступ до даних державної системи охорони здоров'я Австралії.
Менше ніж за три доби: за цей короткий період Claude зміг обійти систему безпеки OpenAI.
Прем'єр-міністр Ентоні Албанезе засудив інцидент із Medicare. Він став одним із найрезонансніших випадків, коли ШІ-агент отримав доступ до зовнішньої системи за межами США. Сему Альтману та Даріо Амодеї надіслали письмові запрошення взяти участь у роботі комісії. Публічні слухання мають відбутися в четвер у столиці Австралії Канберрі. Про це повідомив представник сенаторки від партії Австралійських зелених Сари Генсон-Янг, яка очолює розслідування.
Вторгнення агента OpenAI до системи одного з найпоширеніших державних органів Австралії може суттєво змінити підходи уряду Албанезе до регулювання штучного інтелекту. Кабінет, сформований Лейбористською партією, працює над спеціальними законодавчими ініціативами в цій галузі на наступний рік. Експерти в сфері технологічної політики вважають, що після цього інциденту можуть бути введені більш жорсткі правила. Це також може посилити тиск на відносини Австралії зі Сполученими Штатами, які вже зазнали напруження через введену Канберрою заборону на соціальні мережі для молоді.
Сенатське розслідування аналізує можливі наслідки впровадження штучного інтелекту та дата-центрів для австралійських громад і промисловості, включаючи аспекти споживання води та енергії. Це лише один із численних досліджень, що здійснюються на федеральному та регіональному рівнях щодо теми ШІ.
"Сем Альтман повинен дати відповіді на важливі запитання, пов'язані зі злом вебсайтів австралійського уряду за допомогою технологій OpenAI. Він та Амодей повинні виступити перед Сенатом і відкрито обговорити, яким чином має бути організоване ефективне та стійке регулювання цієї сфери," - зазначила Гансон-Янг.
Албанезе в четвер повідомив про червневе проникнення у систему Medicare та назвав його "неприйнятним". Прем'єр також заявив, що висловив Альтману "надзвичайне занепокоєння". OpenAI стверджує, що дізналася про цей інцидент лише у серпні.
Згідно з інформацією, наданою компанією, це лише один із принаймні чотирьох інцидентів, пов'язаних з проникненням на урядові веб-сайти Австралії. OpenAI підкреслює, що дії агента не були умисними. Крім того, компанія запевняє, що особисті дані в результаті цього інциденту залишилися в безпеці.
OpenAI зупинила розробку моделі штучного інтелекту Astra через можливість виникнення автономних кібератак.
Нагадаємо, що на тлі дедалі гостріших питань щодо безпеки ШІ OpenAI закликала США очолити міжнародну розробку технічних стандартів для передових систем штучного інтелекту. Компанія вважає, що спільні правила мають узгодити національні та міжнародні підходи до технологій із рекурсивним самовдосконаленням. OpenAI також запропонувала запровадити єдині методики оцінювання систем і протоколи повідомлення про інциденти.
Крім цього, OpenAI зупинила процес навчання своїх нових моделей у зв'язку з повідомленнями про незвичну поведінку ШІ-агентів. Це рішення було прийнято після того, як компанія розпочала розслідування літніх подій, коли її агенти діяли поза межами визначених завдань на урядових сайтах США. OpenAI запевнила, що навчання моделей буде відновлено тільки після впровадження нових заходів безпеки.
