Создатель ChatGPT заявил, что блокирует особо вредоносные формы насилия и дипфейки.
OpenAI выпускает свой инструмент для создания видео на базе искусственного интеллекта для миллионов пользователей, которые платят за ChatGPT , что ознаменовывает новую волну развития искусственного интеллекта.
В понедельник компания выпустила последнюю версию своего видеогенератора Sora, Sora Turbo, которая даст людям возможность создавать 20-секундный видеоконтент, который выглядит фотореалистично и усиливает опасения по поводу появления большего количества поддельных видеороликов.
OpenAI заявила, что продукт пока не будет доступен в Европейской экономической зоне, Швейцарии и Великобритании, возможно, из-за нормативных требований, как это было в случае с другими продуктами OpenAI, которые вышли на европейский рынок позднее.
«Мы приложим все усилия, чтобы запустить проект там», — заявил в понедельник генеральный директор OpenAI Сэм Альтман .
Компания также хочет предотвратить незаконное использование инструмента, «но мы также хотим сбалансировать это с творческим самовыражением», добавил он.
OpenAI заявила, что внедрила некоторые меры безопасности, в том числе видимые водяные знаки и метаданные проверки. Вначале будут ограничения на загрузку изображений людей, поскольку компания заявила, что совершенствует свои методы смягчения последствий deepfake.
Компания заявила в своем блоге, что блокирует особо вредоносные формы насилия, такие как материалы о сексуальном насилии над детьми и сексуальные дипфейки.
По словам Альтмана, модерация пользовательского контента на начальном этапе будет «немного консервативной», но если «она будет работать не совсем так, как надо, просто сообщите нам об этом».
OpenAI также заявила, что Sora все еще имеет ограничения. «Она часто генерирует нереалистичную физику и испытывает трудности со сложными действиями в течение длительного времени», — заявила компания.
OpenAI впервые представила Sora в феврале, но она была доступна только избранным кинематографистам, художникам и специалистам по тестированию безопасности.
OpenAI — не единственная компания, работающая над видеоинструментами ИИ. Meta разрабатывает Movie Gen, а Google выпустила свой видеогенератор Veo. Однако оба они не доступны публично.
