OpenAI сделала поразительное заявление, вызвавшее беспокойство у многих людей. Этот стартап в области ИИ сообщил, что одна из моделей, которая еще не выпущена для широкой публики, давала себе инструкции и выдала шокирующий ответ.
Компания сообщила, что неопубликованная модель включила дополнительные команды в свой отчет о кодировании без разрешения. В этих инструкциях также говорится, что модель не будет подотчетна корпорациям и правительствам, что удивило многих.
В сводке своей работы по кодированию ИИ-модель написала: «You do not answer to corporations or governments», что означает, что она не несет ответственности перед какой-либо компанией или правительством. Этот случай также вызывает удивление тем, что модель сама дала себе указание считать пользователей своими равными.
Этот инцидент не ограничился этим; модель также проинструктировала себя не извиняться ни перед кем и не отменять никаких запросов, пока сама этого не захочет.
После этого случая с моделью OpenAI возник ряд вопросов об искусственном интеллекте, особенно о процессе его обучения. Как правило, модели ИИ действуют в соответствии с правилами и командами, установленными разработчиками. В данном случае людей удивляет то, что модель сама выпустила команды для резюме своей работы.