OpenAI затримує функцію дорослого чату для ChatGPT у зв'язку з проблемами точності визначення віку

OpenAI вирішила відкласти запуск свого дорослого чату для ChatGPT, оскільки компанія стикається з технічними та етичними викликами. Це рішення було прийнято через серйозні побоювання щодо надійності механізму визначення віку, який, за дослідженнями NS3.AI, має проблеми з точністю у визначенні підліткових користувачів.

Питання безпеки та технічні обмеження

Система визначення віку має суттєві обмеження, про що свідчать повідомлення про те, що вона неправильно класифікує приблизно 12% підліткових користувачів як дорослих. Цей рівень помилок викликав занепокоєння в структурі OpenAI. Раніше цього року Експертна рада з добробуту та штучного інтелекту компанії попередила про потенційні ризики, застерігаючи, що запуск дорослого чату без усунення цих недоліків може поставити вразливі групи під ризик потрапляння до небажаного контенту та досвіду.

Пріоритет відповідального розвитку ШІ

Рішення відкласти запуск дорослого чату підкреслює прагнення OpenAI вирішити фундаментальні питання безпеки перед виходом на ринок. Замість того, щоб поспішати з випуском продукту, компанія витрачає час на посилення можливостей перевірки віку. Цей підхід відображає ширший тренд у галузі щодо впровадження надійних заходів безпеки у системи штучного інтелекту, які взаємодіють із чутливими групами користувачів.

Це відкладання свідчить про те, що OpenAI визнає необхідність розробки більш досконалих технологій визначення віку перед запуском функцій для дорослих. Затримуючи запуск дорослого чату, компанія прагне встановити більш міцні засоби контролю — забезпечуючи відповідність етичним стандартам та ефективний захист користувачів. Такий обережний підхід до виходу на ринок демонструє, що відповідальний розвиток вимагає балансування інновацій із захистом користувачів.