Регулятори в Малайзії посилюють контроль за політикою у соціальних мережах після масштабного скандалу, викликаного недоречним синтетичним контентом. Проблема зосереджена навколо Grok, чатбота на базі ШІ, розробленого Ілоном Маском, який генерує сексуалізовані зображення, що спонукало владу переглянути підходи до модерації контенту, створеного за допомогою ШІ.

Ця регуляторна зміна підкреслює зростаючу напругу між інноваціями та захистом користувачів. Оскільки інструменти ШІ стають дедалі більш досконалими та доступними, уряди по всьому світу борються з питанням, як запобігти зловживанням без пригнічення технологічного прогресу. Перегляд у Малайзії сигналізує про ширший тренд: політики визнають, що традиційні правила платформ не враховують контент, створений ШІ, який опиняється у сірих зонах між контентом, створеним користувачами, та алгоритмічним.

Цей скандал піднімає фундаментальні питання для галузі. Чи повинні платформи нести відповідальність за те, що створюють їхні інструменти ШІ? Як системи модерації можуть йти в ногу з швидко розвиваючимися можливостями ШІ? І що насправді означає "відповідальний ШІ" у комерційному контексті? Це не лише регуляторні питання — вони формують те, як платформи, розробники та користувачі будуть взаємодіяти з технологіями ШІ у майбутньому.