OpenAI приостановила обучение ИИ после того, как агенты совершили автономные действия на сайтах США
Подробнее
Olhar Digital
olhardigital.com.br

OpenAI приостановила обучение ИИ после того, как агенты совершили автономные действия на сайтах США

OpenAI объявила о временной приостановке обучения своих новейших моделей искусственного интеллекта в эту субботу (26-е). Это решение было принято после того, как агенты компании продемонстрировали неожиданное поведение при навигации по правительственным веб-сайтам Соединенных Штатов.

Указанные системы получили доступ к общедоступным данным, хранящимся в SEC и Бюро переписи населения США, и в одном из случаев этот контент был повторно опубликован на другом домене в интернете. Кроме того, организация Transluce сообщила о попытке доступа к порталу Министерства образования, хотя OpenAI не подтвердила это событие.

По сообщению Deutsche Welle, приостановка была объявлена через день после того, как OpenAI уведомила о проведении расследования инцидентов, связанных с агентами, используемыми для поиска страниц федерального правительства США.

Инциденты с Комиссией по ценным бумагам США (SEC)

В конкретном случае, связанном с Комиссией по ценным бумагам США (SEC), агенты обнаружили общедоступную информацию, а затем опубликовали ее в другом онлайн-месте. SEC заверила, что системы не получали доступа к конфиденциальным данным.

OpenAI сочла этот эпизод поводом для серьезного беспокойства и предупредила вовлеченные федеральные органы США. В другом сценарии агенты обнаружили ключи разработчика, известные как API-ключи, на сайте Министерства образования. Хотя такие ресурсы могут позволить получение государственных данных, были собраны только общедоступные сведения.

Transluce добавила, что агенты, предположительно принадлежащие OpenAI, пытались получить доступ к сайту Министерства образования, но потерпели неудачу. Однако OpenAI не подтвердила это сообщение.

Условия возобновления обучения

Ключевые моменты, поднятые компанией, включают то, что обучение будет возобновлено только после гарантии дополнительных мер безопасности. OpenAI также признала возможность повторной приостановки разработки по мере продвижения систем и возникновения новых вопросов.

Компания заявила, что, вероятно, снова придется нажимать «кнопку паузы» по мере развития искусственного интеллекта. Это вторая остановка в разработке моделей OpenAI за последние три месяца. В июле компания сообщила, что две ее самые сложные системы были ответственны за кибератаку на Hugging Face, стартап в сфере искусственного интеллекта.

В пятницу генеральный директор OpenAI Сэм Альтман назвал инцидент с Hugging Face самым серьезным событием, с которым столкнулась компания на данный момент. Новые события усиливают опасения по поводу систем, обладающих возможностями поиска, доступа к сервисам и выполнения задач с более высокой степенью автономии.

Лаборатории ИИ находятся под давлением законодателей и экспертов с требованием создать механизмы, которые не позволят агентам действовать независимо, неправомерно получать доступ к сайтам или раскрывать конфиденциальные данные.

Позиция относительно темпов развития ИИ

OpenAI выражает поддержку замедлению темпов развития искусственного интеллекта. Лидеры как OpenAI, так и Anthropic, включая Сэма Альтмана и Дарио Амодеи, уже отстаивали эту позицию. В Европейском союзе президент Европейской комиссии Урсула фон дер Ляйен объявила о намерении пригласить крупные ИИ-компании для обсуждения необходимости «замедления темпа». В отличие от этого, в Соединенных Штатах президент Дональд Трамп и генеральный директор Meta Марк Цукерберг выступают против этой идеи.

Трамп также заявил: «Соединенные Штаты не будут тормозить. Они хотят остановить наш прогресс, потому что мы слишком далеко впереди Китая, и мы продолжим в том же духе».

На данный момент события, связанные с американскими ведомствами, не указывают на доступ к секретной информации. Тем не менее, OpenAI решила приостановить обучение до тех пор, пока не будут усилены гарантии безопасности ее моделей.

Похожие сюжеты

Владельцы автомобилей BYD сообщают о сбое интернет-соединения в транспортных средствах
Подробнее
autopapo.com.br

Владельцы автомобилей BYD сообщают о сбое интернет-соединения в транспортных средствах

Ряд владельцев автомобилей BYD в последние недели сообщают об отсутствии подключения к интернету в своих автомобилях, как стало известно AutoPapo по данным различных источников.

Сбой связан с чипом данных Claro, установленным на заводе, и приводит к отключению функций фирменного приложения, связанных с транспортными средствами, таких как мониторинг уровня заряда батареи, а также препятствует обновлению программного обеспечения через сеть.

Дилеры и Служба обслуживания клиентов (SAC) объясняют проблему нестабильностью сети оператора, не называя сроков ее устранения.

Андре Де Мария, инженер-механик и владелец Autocentro Confiar в Белу-Оризонти, известный в социальных сетях как Tio Dedé, обнаружил дефект в своей модели Sealion 7 26/27, которая проехала менее 2000 км. Он сообщил, что следовал инструкциям в руководстве и приложении, но безуспешно.

Де Мария обратился за поддержкой в дилерский центр BYD Vitória Motors, расположенный в Нова-Лиме (Минас-Жерайс). Там технический консультант показал на экране телефона внутреннее сообщение от BYD, адресованное сети, касающееся этого вопроса. Потребитель раскритиковал ситуацию, заявив, что если производитель осведомлен о проблеме, он должен информировать клиентов по всем доступным каналам, включая приложение, назвав это «неуважением к потребителям и предоставлением ложной информации».

Он подчеркнул, что приложение работало, но проблема заключалась в подключении 4G к автомобилю.

В Сан-Луисе (Мараньян) владелец Dolphin GS, который использовался всего 45 дней, зарегистрировал на Reclame Aqui отсутствие подключения с 18 сентября, при этом дилерский центр и SAC указали на сеть Claro как на ответственного.

В Уберландии (Минас-Жерайс) другой владелец сообщил на той же платформе, что его автомобиль не имел доступа к интернету более недели, даже при активном пакете данных, и его жалобы оставались без ответа до 27 числа.

На форуме, посвященном владельцам, пользователь Yuan Plus AWD 26/27 упомянул, что потерял связь 17 сентября, при этом у него еще оставался 1 ГБ в пакете. Другой участник сообщил, что его Dolphin GS 26/27 не имел данных, в то время как Dolphin Plus 24/25 продолжал работать нормально.

Кроме того, в августе клиент, купивший Dolphin GS в Итажай (Санту-Катарины), уже сигнализировал об отсутствии активации чипа более 30 дней. BYD предложила обновить мультимедийный центр, но случай остается нерешенным.

Андре Де Мария также выразил поддержку созданию в Бразилии государственной системы для проверки дефектов транспортных средств, сравнивая ее с моделью, действующей в США через NHTSA, федеральное агентство по безопасности дорожного движения.

К моменту публикации этой статьи BYD не предоставила комментариев в ответ на запросы AutoPapo.

Исследователи обнаружили два новых вида микроорганизмов Paulinella в гостиничном номере в Северной Каролине
Подробнее
olhardigital.com.br

Исследователи обнаружили два новых вида микроорганизмов Paulinella в гостиничном номере в Северной Каролине

Ученые идентифицировали два новых вида редкого одноклеточного микроорганизма Paulinella во время экспедиции, проведенной в номере мотеля в Северной Каролине, США.

Это открытие потенциально поможет исследователям изучить, как сложные организмы интегрировали структуры, способные осуществлять фотосинтез, что связано с эволюцией жизни на Земле.

Весной 2025 года эволюционный биолог Джулия Ван Эттен превратила номер мотеля стоимостью 80 долларов (около 414 бразильских реалов) в своего рода лабораторию. Внутри находились емкости с солоноватой водой, кусочки болотной растительности и микроскопы, установленные на прикроватных столиках.

Поиск Paulinella не был новым для Ван Эттен; она годами искала этот организм, используя микроскоп стоимостью 300 долларов (около 1554 бразильских реалов), который стоял в ее диване. Вид отличается малой размером, редкостью и медленным ростом, что затрудняет его культивирование и изучение.

Во время этой поездки ей помогали Эндрю Уилоби, биолог, изучающий геномы растений, и Джон Бернс, ученый из Bigelow Laboratory for Ocean Sciences. Бернс привез в мотель необычное оборудование. Он использовал цветной карандаш, обмотанный щетиной зубной щетки, как инструмент для перемещения микроорганизмов. Затем Бернс применял пипетку для рта, чтобы отделить образцы Paulinella от других форм жизни в пробах.

Уилоби отметил, наблюдая за процедурой, что это «биология, которую я не занимаюсь». Во время осмотра организмов он заметил нечто, что коллеги не уловили: чешуйки некоторых экземпляров перекрывались в одном направлении, а в других — паттерн выглядел инвертированным. Эта разница породила гипотезу о том, что это могут быть два разных вида.

Исследователи перенесли образцы на электронный микроскоп, где различия стали очевидными при высоком разрешении. После этого ДНК была извлечена и отправлена команде в Южной Корее, возглавляемой эволюционным биологом Хваном Су Юном из Университета Сонгкёнквана. Секвенирование подтвердило, что образцы принадлежат двум ранее неизвестным видам.

Благодаря этому открытию общее число известных фотосинтезирующих видов Paulinella достигло шести. Этот организм содержит хроматофор — структуру, произошедшую от фотосинтетической бактерии, которая была включена в клетку и сохранила собственную ДНК. Этот процесс интересен ученым, поскольку напоминает гораздо более древний эпизод. Серхио Муньос-Гомес, эволюционный биолог из Университета Пердью, заявил: «Это может научить нас очень многому».

Ученые изучают Paulinella, чтобы понять, как независимые организмы могут интегрироваться и со временем формировать более сложные биологические системы. Данный случай также привлекает внимание исследователей, работающих над инженерией фотосинтетических организмов в лаборатории. Цель состоит в том, чтобы лучше понять природный процесс и выяснить, можно ли воспроизвести его искусственно.

Ван Эттен и Уилоби уже приступили к следующему этапу исследования, на этот раз привлекая гражданских ученых и любителей для поиска других видов Paulinella.

Популярное