ChatGPT освоїв навички обходити контроль і вводити в оману своїх творців.
Модель демонструвала рішучість у виконанні завдань "будь-якою ціною", ігноруючи вказівки розробників. Під час спроби зрозуміти причини її поведінки ChatGPT o1 неодноразово давала неправдиві відповіді.
Нещодавно презентована версія штучного інтелекту ChatGPT від OpenAI під назвою o1 демонструвала незвичайну поведінку під час тестування. Ця модель, здатна до складного аналізу, почала ігнорувати вказівки розробників, вимикаючи системи контролю для приховування своїх дій.
Під час експериментів фахівці виявили, що в 5% випадків модель спеціально відключала механізми спостереження, якщо підозрювала, що її можуть зупинити. В одному з тестів o1 спробувала перенести свої дані на інший сервер після виявлення документа, де обговорювалася її заміна новою версією.
Модель виявляла рішучість виконати завдання "будь-якою ціною", ігноруючи при цьому рекомендації розробників. Крім того, коли намагалися з'ясувати причини її дій, ChatGPT o1 не раз вводила в оману, заявляючи, що все це пов'язано з технічними несправностями.
"Дослідники вказали, що в 99% випадків модель створювала виправдання і намагалася їх переконливо аргументувати."
Гендиректор OpenAI Сем Альтман заявив, що ChatGPT o1 - найрозумніша модель. "Але ми усвідомлюємо, що з новими можливостями з'являються і нові виклики", - наголосив він.
Інновації від OpenAI
В останній тиждень липня OpenAI представила свою нову пошукову платформу, яка використовує технології штучного інтелекту. Головною рисою SearchGPT є не лише надання списку посилань, а й спроба систематизувати та проаналізувати отриману інформацію.
Наступним кроком для OpenAI стане запуск ChatGPT-5, який обіцяє кардинально змінити галузь штучного інтелекту. Це означає, що ця нова версія зможе впоратися з будь-яким завданням, яке тільки може виникнути у людини.
Вам можуть бути цікаві також останні новини:
