Потенциальная опасность генеративного ИИ вызывает беспокойство у общественности, политиков и исследователей ИИ.
OpenAI расширила свой внутренний процесс обеспечения безопасности для борьбы с угрозой вредоносного искусственного интеллекта (ИИ), поскольку правительства стремятся подавить эту технологию .
Стартап, который может похвастаться своим чрезвычайно успешным чат-ботом ChatGPT и поддерживается Microsoft, заявил, что создаст специальную команду для наблюдения за технической работой и операционную структуру, которая также позволит совету директоров отменять решения по безопасности.
«Мы создаем межфункциональную консультативную группу по безопасности, которая будет рассматривать все отчеты и одновременно отправлять их руководству и совету директоров. Хотя решение принимает руководство, совет директоров имеет право отменить решения», — сказал он. Об этом компания сообщила на своем сайте в понедельник.
Компания обновила свою «систему готовности», заявив, что она также будет инвестировать в тщательную оценку возможностей и прогнозирование, чтобы лучше выявлять возникающие риски. Компания также заявила, что будет постоянно обновлять «системы показателей» для своих моделей.
«Мы оценим все наши передовые модели, в том числе при каждом двукратном эффективном увеличении вычислительных ресурсов во время обучающих запусков. Мы доведем модели до предела», — сказал он. Об этом сообщил OpenAI.
Потенциальные опасности этой технологии вызывают обеспокоенность общественности, политиков и исследователей ИИ, поскольку генеративный ИИ может распространять дезинформацию.
OpenAI, самый ценный стартап в США, в ноябре погрузился в хаос, когда его соучредитель и генеральный директор Сэм Альтман был отстранен от правления и большинство сотрудников компании пригрозили уволиться, если его не восстановят на работе.
За несколько дней до того, как Альтмана уволили из совета директоров, несколько штатных исследователей написали совету директоров письмо с предупреждением о мощном открытии искусственного интеллекта, которое может угрожать человечеству, сообщило агентство Reuters в ноябре. , со ссылкой на двух человек, знакомых с ситуацией.
Правительства по всему миру начинают регулировать эту технологию, и Европейский Союз становится первым, кто принял свод правил ИИ.
