Сэм Альтман заявил, что мир прав в своем опасении неконтролируемого развития искусственного интеллекта, признав, что аварии могут быть неотъемлемой частью разработки новых технологий.
Во время конференции Dreamforce, организованной Salesforce, генеральный директор OpenAI выступил за внедрение культуры прозрачности. Эта культура должна позволять регистрировать, расследовать и извлекать уроки из любых негативных инцидентов.
Чтобы проиллюстрировать свою точку зрения, Альтман сослался на методы расследования авиационных происшествий, направленные на выявление сбоев и смягчение возникновения новых проблем. Он упомянул Федеральное управление гражданской авиации США (FAA) и Национальный совет по безопасности на транспорте (NTSB) как примеры, применимые к индустрии ИИ.
По словам Альтмана, хотя он считает, что определенный уровень аварий неизбежен при технологических инновациях, основной акцент должен быть сделан на создании превосходной культуры регистрации и изучения этих событий. Признание этой возможности не означает принятие катастроф, а скорее быстрое выявление того, что пошло не так, чтобы предотвратить обострение инцидента.
Среди рекомендуемых практик он подчеркнул необходимость обеспечения безопасности, мониторинга и согласованности систем ИИ, гарантируя, что они остаются под контролем и соответствуют установленным целям, даже при росте возможностей моделей.
На фоне растущих дискуссий о все более автономных системах ИИ исследователи безопасности предупреждают о таких рисках, как потенциальная потеря человеческого контроля и использование этих технологий для усиления кибернетических и биологических угроз. Альтман подтвердил эти крайние опасения, заявив: «Мир прав в том, чтобы бояться этого», ссылаясь на риск аварий, связанных с потерей контроля и централизацией власти в нескольких командах разработчиков.
Однако Альтман утверждает, что отказ от искусственного интеллекта не является подходящим решением. Если меры безопасности не могут быть реализованы, он предложил компаниям быть готовыми сократить или приостановить разработку. Его точка зрения вносит вклад в дебаты о темпах прогресса ИИ и опасностях, связанных с все более автономными моделями.
Для Альтмана путь вперед требует раскрытия инцидентов, тщательного анализа произошедшего и постоянного обучения на каждом случае, тем самым предотвращая более серьезные последствия, вызванные сбоями.
