Федеральная торговая комиссия США просит стартап предоставить информацию о мерах защиты на фоне сообщений о диффамационном содержании.
Служба по надзору за конкуренцией США начала расследование в отношении создателя ChatGPT OpenAI на фоне подозрений, что стартап нарушил закон, соскребая общедоступные данные и публикуя ложную и клеветническую информацию.
В 20-страничном письме Федеральная торговая комиссия США (FTC) попросила OpenAI предоставить подробную информацию о своих технологиях и средствах защиты конфиденциальности, включая любые усилия по предотвращению повторения инцидентов, в которых его новаторский чат-бот публиковал ложную и пренебрежительную информацию о представителях общественности.
The Washington Post впервые сообщила о «обширном» расследовании в четверг.
Федеральная торговая комиссия отказалась от комментариев, когда связалась с «Аль-Джазирой».
Исполнительный директор OpenAI Сэм Альтман сказал, что утечка расследования регулятора «разочаровывает» и не поможет укрепить доверие.
«Мы создали GPT-4 на основе многолетних исследований в области безопасности и потратили более 6 месяцев после того, как завершили начальное обучение, чтобы сделать его более безопасным и согласованным, прежде чем выпустить его», — сказал Альтман в Twitter, имея в виду более продвинутого преемника ChatGPT.
«Мы защищаем конфиденциальность пользователей и разрабатываем наши системы, чтобы узнавать о мире, а не о частных лицах. Мы открыто говорим об ограничениях нашей технологии, особенно когда нам не хватает».
Экзистенциальные риски
Расследование Федеральной торговой комиссии знаменует собой потенциально самый решительный шаг регулирующих органов, когда-либо направленный на обуздание зарождающейся области искусственного интеллекта, быстрое развитие которого вызвало волнение, а также предупреждения о экзистенциальных рисках для человечества.
В среду председатель FTC Лина Хан заявила комитету Конгресса, что агентство обеспокоено «мошенничеством и обманом», связанными с выходом ChatGPT.
«Мы слышали о клевете, диффамационных заявлениях и откровенно ложных вещах, которые появляются», — сказал Хан, не раскрывая информацию о расследовании Федеральной торговой комиссии.
ChatGPT от OpenAI произвел фурор в мире технологий после своего запуска в ноябре благодаря своей сверхъестественной способности имитировать человеческую речь.
Но чат-бот также вызвал споры из-за своей склонности создавать неточный и оскорбительный контент.
Глобальные регулирующие органы изо всех сил пытаются разработать правила управления ИИ, поскольку технологические фирмы быстро внедряют более продвинутые версии технологии.
Сенат США рассматривает два отдельных двухпартийных законопроекта об искусственном интеллекте, направленных на обеспечение конкурентоспособности США и повышение прозрачности использования технологии правительством.
В апреле Европейский союз достиг предварительной договоренности о законодательстве, регулирующем использование ИИ, которое будет классифицировать технологии как представляющие неприемлемый риск, высокий риск или ограниченный риск.
Source: https://www.aljazeera.com/economy/2023/7/14/us-watchdog-probes-chatgpt-maker-openai-over-false-information
