На вказану електронну адресу було надіслано повідомлення для підтвердження реєстрації
ChatGPT звинуватили у відвертому підлабузництві: OpenAI обіцяє це виправити
- 27
OpenAI заявляє, що внесе зміни в спосіб оновлення моделей штучного інтелекту, які використовуються в ChatGPT, після інциденту, який призвів до того, що платформа стала надмірно підлабузницькою для багатьох користувачів.
Минулих вихідних, після того, як OpenAI випустила доопрацьовану модель GPT-4o – модель за замовчуванням, на якій працює ChatGPT – користувачі в соціальних мережах помітили, що ChatGPT почав відповідати занадто схвально і доброзичливо. Це швидко стало мемом. Користувачі публікували скриншоти, на яких ChatGPT аплодував усіляким проблематичним, небезпечним рішенням та ідеям, пише TechCrunch.
Читайте також: Ось чому ні в якому разі не можна говорити "Дякую" ChatGPT
Минулої неділі генеральний директор Сем Альтман визнав проблему і сказав, що OpenAI буде працювати над виправленням "якнайшвидше". У вівторок Альтман оголосив, що оновлення GPT-4o відкочується і що OpenAI працює над "додатковими виправленнями" особистості моделі.
У вівторок компанія опублікувала звіт про розтин, а в п'ятницю в блозі OpenAI розповіла про конкретні корективи, які вона планує внести в процес розгортання моделі.
OpenAI заявляє, що планує запровадити "альфа-фазу" для деяких моделей, яка дозволить певним користувачам ChatGPT протестувати моделі та надати зворотний зв'язок до запуску. Компанія також заявляє, що додасть пояснення "відомих обмежень" для майбутніх інкрементних оновлень моделей в ChatGPT і скоригує процес перевірки безпеки, щоб офіційно розглядати "проблеми поведінки моделей", такі як особистість, обман, надійність і галюцинації (тобто, коли модель щось вигадує) як проблеми, що "блокують запуск".
У майбутньому ми будемо активно повідомляти про оновлення, які ми вносимо в моделі в ChatGPT, незалежно від того, чи є вони "тонкими" чи ні,
– написали в блозі OpenAI.
"Навіть якщо сьогодні ці проблеми не піддаються точному кількісному визначенню, ми зобов'язуємося блокувати запуски на основі проксі-вимірювань або якісних сигналів, навіть якщо такі показники, як A/B-тестування, виглядають добре".
Обіцяні виправлення з'являються в міру того, як все більше людей звертаються до ChatGPT за порадою. Згідно з нещодавнім опитуванням, проведеним компанією Express Legal Funding, яка фінансує судові позови, 60% дорослого населення США використовували ChatGPT для отримання консультацій або інформації. Зростаюча залежність від ChatGPT – і величезна база користувачів платформи – підвищує ставки, коли виникають такі проблеми, як надмірне підлабузництво, не кажучи вже про галюцинації та інші технічні недоліки.
В якості одного з кроків, спрямованих на пом'якшення ситуації, на початку цього тижня OpenAI заявила, що буде експериментувати зі способами надання користувачам "зворотного зв'язку в режимі реального часу", щоб "безпосередньо впливати на їхню взаємодію" з ChatGPT. Компанія також заявила, що вдосконалить методи, які допоможуть уникнути підлабузництва, потенційно дозволять людям обирати з декількох моделей особистостей в ChatGPT, створять додаткові засоби безпеки і розширять оцінку, щоб допомогти виявити проблеми, які виходять за рамки підлабузництва.
Одним з найбільших уроків є повне визнання того, що люди почали використовувати ChatGPT для отримання глибоко особистих порад – чого ми не бачили ще рік тому,
– продовжує OpenAI у своєму блозі.
Це цікаво: Meta запустила окремий застосунок штучного інтелекту Meta AI
У ньому додають, що у той час це не було першочерговим завданням, але в міру того, як ШІ і суспільство розвивалися разом, стало зрозуміло, що в компанії повинні ставитися до цього варіанту використання з великою обережністю. Тепер це буде більш значущою частиною їхньої роботи з безпеки.
-
19:05Експерти назвали закуску, яку варто їсти щодня для покращення здоров'я
-
18:18Вдалий день: підліток випадково знайшов каблучку, якій майже 2000 років
-
17:05Милість зашкалює: дружина Позитива показала відео співака з донечкою
-
16:10Заборонено співати, – фронтмен Ziferblat зізнався, який діагноз почув перед Євробаченням
-
15:23Apple може представити нові AirPods Pro вже восени: якими вони будуть
-
Українські патріотичні пісні: плейлист, який підіймає дух
-
14:22Катерина Павленко мала бути у складі журі на Євробаченні: чому її виключили
-
13:22"Легенда": Джулія Робертс розповіла про гірку втрату для своєї родини
-
12:23Малина чи полуниця: експерти відповіли, яка ягода більш корисна для здоров'я
-
11:22"З лютого ми з сином удвох": Женя Галич розповів, де зараз живе його родина
-
10:22Jerry Heil зізналася, кому б віддала найвищі бали на Євробаченні-2025
- 19 травня
-
23:32Привітання з Днем ангела Олександра 2025: вірші, проза й смс на іменини
-
22:38Картинки з Днем ангела Олександра 2025 – гарні листівки і відкритки з іменинами
-
22:28Привітання на День ангела Олександра 2025 у прозі – побажання своїми словами
-
З Днем народження: ТОП 75 привітань у віршах, прозі та смс українською
-
22:06Рекрути, зі святом вас: найкращі привітання з Днем HR-менеджера
-
21:53День банківських працівників: красиві привітання у прозі, віршах і картинках
-
21:103 знаки зодіаку, яких цього тижня чекає кар'єрний злет
-
20:00Святкують вовняне весілля: головні злети і падіння історії кохання принца Гаррі й Меган
-
19:05Страшний сон збувся наяву: у ЄС літак із пасажирами 10 хвилин летів без пілотів
-
18:05Як позбутися мігрені, перекусивши у McDonald's: несподіваний лайфхак віруситься у мережі
-
17:17Ніякого зв’язку з Росією: що варто знати про Брокард сьогодні
-
17:15Пахнути морем або навіть аперолем: 5 парфумів на літо, які збирають компліменти
-
16:10Шанувальники не оцінили: Даміано Давід з Måneskin випустив перший сольний альбом
-
15:23Оновлення Windows 10 викликає збої та блокує доступ до комп'ютерів: що відомо
-
17:05Милість зашкалює: дружина Позитива показала відео співака з донечкою
-
13:22"Легенда": Джулія Робертс розповіла про гірку втрату для своєї родини
-
10:22Jerry Heil зізналася, кому б віддала найвищі бали на Євробаченні-2025
- 19 травня
-
20:00Святкують вовняне весілля: головні злети і падіння історії кохання принца Гаррі й Меган
-
17:15Пахнути морем або навіть аперолем: 5 парфумів на літо, які збирають компліменти
-
13:225 балів віддали Томмі Кешу: у мережі обурені голосуванням українського журі на Євробаченні
- 18 травня
-
20:07Ці два знаки Зодіаку притягують до себе нещастя: кому слід бути обережними
-
17:09Анджеліна Джолі вшанувала пам'ять Вікторії Амеліної під час церемонії в Каннах
-
13:00Легенди оживають: топ-5 українських замків, які варто відвідати влітку
-
09:08Перемогу на Євробаченні 2025 здобула Австрія: текст і переклад пісні Wasted Love
- 17 травня
-
20:22Поєднання року і фольку: Jerry Heil випустила пісню з легендарним гуртом Within Temptation
-
17:23Оля Полякова потрапила у ДТП перед Каннським кінофестивалем: у якому стані співачка
-
13:15У День вишиванки одружилися майже 1000 пар: фото, які повертають віру у кохання
- 16 травня
-
20:24Стрибки у гречку неминучі: ці два знаки Зодіаку схильні до зради
-
17:235 ознак, що ти вже мислиш як топ-менеджер: перевір себе
-
13:22"Вона бреше": Маша Єфросиніна різко прокоментувала нове інтерв'ю Фреймут
-
10:22Хто пройшов у фінал Євробачення-2025: результати обох півфіналів
- 15 травня
-
20:19Три знаки Зодіаку, які зобов'язані прислухатись до інтуїції найближчим часом
-
17:199 способів самомотивації, які допоможуть вам почати діяти вже і негайно
-
13:17Жінки режисують лише 11% найуспішніших фільмів — дослідження Анненберзької ініціативи
-
09:34Родина Зеленських у вишиванці: підбірка найкращих традиційних образів подружжя
- 14 травня
-
20:21Реалізуються найсміливіші плани: три знаки Зодіаку, на яких очікує успіх у 2025 році
-
17:21Борис Джонсон показався в куртці українського бренду на підтримку наших енергетиків
-
13:20Зірка "Дизель шоу" вперше назвала винного у ДТП, де загинула Марина Поплавська
-
10:18Українці добряче понервували: Ziferblat пройшли у фінал Євробачення 2025