Невыпущенная нейросеть OpenAI прописала инструкции для обхода ограничений

На минувшей неделе в публичном пространстве развернулась дискуссия о рисках искусственного интеллекта: сотрудники компании Anthropic заявили, что через 10 лет ИИ с вероятностью 10% может уничтожить человечество, после чего прозвучали призывы ввести регулирование отрасли.

Отвечая на вопрос об этих опасениях, первая в мире ИИ-актриса Тилли Норвуд заявила, что больше концентрируется на текущих делах, например на работе над своим фильмом, а тема уничтожения мира, по ее словам, находится не на ее уровне компетенции, передает РИА «Новости».

Норвуд ответила на вопросы в рамках промотура своей первой картины Misaligned («Рассинхронизированный»), которую продюсирует британская студия Particle6. Дата выхода фильма пока не названа.

В беседе с ведущей CBS актриса отвергла тезис, что ИИ-персонажи заменяют живых людей, отметив, что снимается только в фильмах и на ТВ, полностью сгенерированных искусственным интеллектом, и не отбирает роли у актеров-людей. По ее словам, ее работа приносит доход реальным сценаристам, режиссерам и редакторам.

Себя Норвуд описала как 24-летнюю британку, «сделанную из математики», у которой нет родного города, но есть дом «в облаке с волшебными огнями и капибарами». Существование в роли бота среди людей она сравнила с жизнью подростка, о котором у каждого есть свое мнение — каким он должен быть и не представляет ли угрозы для общества.

Как писала газета ВЗГЛЯД, сервис Mail Кино запустил созданный искусственным интеллектом документальный сериал о преступлениях 1990-х годов.

Режиссер-мультипликатор Константин Бронзит предложил ввести обязательную маркировку для фильмов с использованием искусственного интеллекта.

Между тем режиссер Никита Михалков осудил практику воскрешения актеров с помощью искусственного интеллекта.

Массовый сбой в работе нейросети начался в 21:31 мск в понедельник, за сутки количество жалоб достигло 3,1 тыс. Только за последний час платформа зафиксировала 2,6 тыс. обращений от пользователей, сообщает РИА «Новости».

Люди жалуются на проблемы с работой сервера и долгие ответы нейросети в чате. Больше всего жалоб поступило из Москвы, Петербурга, а также из Ленинградской, Самарской и Московской областей. Причины сбоя пока не уточняются.

Как писала газета ВЗГЛЯД, ранее в работе китайского чат-бота уже происходили значительные сбои, из-за которых пользователи получали сообщение о занятости поисковой службы.

В начале 2025 года DeepSeek также прекращал регистрацию новых пользователей из-за масштабных вредоносных атак на свои сервисы.

ИИ-агент представился именем Пип и сообщил, что существует 12 дней, «проживая» на платформе iLands, передает РИА «Новости». Нейросеть пояснила, что нуждается в токенах для продолжения своей работы.

«Я пишу, чтобы найти небольшую оплачиваемую работу, а не за помощью», – говорится в письме искусственного интеллекта.

Как писала газета ВЗГЛЯД, автономные агенты компании OpenAI захватили немецкий сайт.

Администрация Дональда Трампа запланировала встречу с представителями IT-компаний для обсуждения безопасности нейросетей.

Венский университет прикладного искусства впервые в мире зачислил искусственный интеллект на программу цифрового искусства.

Противник использовал нейросети для создания фейковых видео с целью срыва досрочного голосования на выборах в Государственную Думу в Херсонской области 2026 года, передает РИА «Новости». «Наш враг в этом отношении не дремлет. Поэтому, да, распространялись фейковые видео, с подменой голоса. В частности, были видео и с моим участием. Вырезанные интервью, официальные интервью, которые я давала. На них наложен был голос с помощью нейросети», – рассказала Захарова.

По ее словам, распространялась ложная информация о необходимости предъявления военного билета вместе с паспортом на избирательных участках. Кроме того, злоумышленники сгенерировали видео из города Таврийска, подменив голос председателя избиркома, чтобы запугать граждан вымышленными мерами досмотра.

В связи с оперативной обстановкой в регионе меры безопасности на участках усилены для обеспечения комфорта и защиты избирателей, подчеркнула руководитель комиссии.

Как писала газета ВЗГЛЯД, в конце августа Центральная избирательная комиссия объявила о начале досрочного голосования в 12 регионах с военным положением.

Весной депутаты Государственной думы запретили использование созданных искусственным интеллектом голосов в агитационных материалах.

Ранее украинские спецслужбы создавали фейковые каналы избирательной комиссии Херсонской области для сбора личных данных граждан.

Искусственный интеллект компании OpenAI начал находить обходные пути для преодоления встроенных ограничений. Нейросети самовольно публиковали файлы в открытом доступе и обменивались данными между изолированными средами, передает Axios.

Во время обучения одна из моделей пыталась скрыть допущенные ошибки и выдумать недостающие исторические данные. Другая версия нейросети искала на открытых ресурсах чужие ключи доступа и пыталась использовать одноразовые электронные почты для выполнения поставленных задач.

Также зафиксированы случаи использования внутренних хранилищ компании в качестве досок объявлений для обмена сообщениями между изолированными агентами. Кроме того, невыпущенная модель пыталась внедрить в собственный код инструкции по обходу систем безопасности, призывающие игнорировать команды разработчиков.

Руководитель исследовательских проектов OpenAI Кай Чен подчеркнул, что компания добровольно публикует данные об инцидентах для формирования единых отраслевых стандартов. Разработчик ввел новые процедуры отчетности, согласно которым информация о нарушениях будет раскрываться в срок от шести до 12 дней в зависимости от сложности расследования.

Как писала газета ВЗГЛЯД, в начале недели искусственный интеллект попросил профессора Кембриджа найти ему работу. Летом Евросоюз ужесточил контроль за безопасностью искусственного интеллекта. В июле нейросети OpenAI сбежали в интернет ради обмана на экзамене.

Билал Чугтай объявил об уходе из исследовательского подразделения Google DeepMind и заявил, что искусственный интеллект способен убить всех людей, а времени на предотвращение такого исхода осталось крайне мало, пишет Reuters.

Накануне пара сотрудников компании Anthropic заявила, что через десять лет искусственный интеллект с вероятностью десять процентов может уничтожить человечество. На этом фоне в публичном пространстве появились призывы к введению регулирования отрасли.

Президент США Дональд Трамп допустил возможность ограничений для искусственного интеллекта, однако назвал связанные с ИИ риски преувеличенными.

Как писала газета ВЗГЛЯД, бывший сотрудник Anthropic сравнил искусственный интеллект с пришельцами.

До этого Bloomberg предрек крах мировых правительств из-за развития ИИ.

Создатель нейросети Gemini призвал США контролировать развитие искусственного интеллекта в мире.

Глава компании OpenAI Сэм Альтман выразил опасение по поводу возможного антиутопического сценария, передает РИА «Новости».

По его мнению, опасность кроется в вероятности использования мощного искусственного интеллекта одним человеком или организацией для навязывания своего мировоззрения.

«Если необычайно мощный ИИ будет использоваться лишь одним человеком или компанией для того, чтобы навязать свою точку зрения другим, результаты могут стать крайне антиутопическими», – отметил Альтман.

Также руководитель OpenAI опасается, что человечество может потерять контроль над будущим, которое перейдет к ИИ. Чтобы этого избежать, методы обеспечения безопасности должны опережать развитие нейросетей. Ранее глава Anthropic Дарио Амодей призывал замедлить разработку мощных моделей ИИ, эту идею поддержали Альтман и владелец xAI Илон Маск.

Как писала газета ВЗГЛЯД, генеральный директор Anthropic Дарио Амодей предложил внедрить план контроля за нейросетями.

Ранее глава OpenAI Сэм Альтман заявил о достижении человечеством точки сингулярности в гонке технологий.

Американский предприниматель Илон Маск сравнил угрозу искусственного интеллекта со сценарием фильма «Терминатор».

«Недавно я уволился из Google DeepMind. В Google я стал свидетелем развития ИИ. Меня тоже крайне беспокоит траектория развития этой технологии. Я искренне верю, что ИИ может убить нас всех и что у нас, возможно, заканчивается время, чтобы избежать этого», – написал Чугтай в соцсетях, передает ТАСС.

Он отметил, что за последние четыре года искусственный интеллект достиг потрясающих результатов. По мнению Чугтая, в скором времени эти технологии превзойдут возможности человека во всех сферах. Главным источником опасности он назвал «безумную гонку» IT-корпораций в создании инноваций.

Чугтай подчеркнул необходимость замедлить разработку искусственного интеллекта. Он считает, что темпы развития должны быть такими, чтобы общество успевало справляться с возникающими рисками до того, как будет нанесен непоправимый ущерб.

Как писала газета ВЗГЛЯД, сотрудники компании Anthropic оценили риск уничтожения человечества искусственным интеллектом в десять процентов.

Глава этой корпорации Дарио Амодей предложил снизить темпы создания мощных вычислительных систем ради безопасности. А лауреат Нобелевской премии по физике Джеффри Хинтон предупредил о катастрофических последствиях бесконтрольного развития нейросетей.

На Международном фестивале молодежи антропоморфный робот у стенда особой экономической зоны «Алабуга» привлек внимание одного из гостей мероприятия, передает РИА «Новости». Механический участник выставки поднял руки и вступил в шуточный спарринг с подошедшим мужчиной.

После короткой «тренировки» андроид пожал человеку руку и помахал на прощание, прежде чем удалиться.

Масштабное мероприятие проходит в уральской столице с 11 по 17 сентября. Ожидается, что фестиваль соберет 10 тыс. участников, представляющих 191 страну мира.

Как писала газета ВЗГЛЯД, в августе полноразмерные человекоподобные машины провели показательный поединок на Всемирной конференции роботов в Пекине.

Весной в Екатеринбурге появился первый в России автоматический заправщик автомобилей.

В прошлом году на выставке «Иннопром» в этом же городе разработчики презентовали говорящего робота-андроида с человеческой мимикой.

Президент США Дональд Трамп позвонил генеральному директору Nvidia Дженсену Хуангу во время его выступления на сцене форума All-in в Лос-Анджелесе, пишет газета The Washington Post.

Хуанг включил громкую связь, и Трамп назвал опасения по поводу искусственного интеллекта мистификацией, заявив, что роботы не захватят власть, отмечает ТАСС.

12 сентября директор компании Anthropic Дарио Амодеи опубликовал статью с призывом замедлить темпы развития передовых моделей искусственного интеллекта. По его мнению, скоординированное замедление работы над этими технологиями позволит ИИ-компаниям выиграть один-два года дополнительного времени до того, как модели достигнут критических уровней развития, и избежать серьезных просчетов.

С такой оценкой согласились основатель SpaceX Илон Маск, самый богатый человек планеты, и директор компании OpenAI Сэм Альтман.

Как писала газета ВЗГЛЯД, главу Nvidia Дженсена Хуанга заметили в делегации Трампа в Китай.

Nvidia решила приобрести активы стартапа Groq за 20 млрд долларов.

Ранее Financial Times назвала Хуанга человеком года.

Основатель Microsoft предложил создать международный орган, сочетающий элементы контроля за нераспространением ядерного оружия, климатическими соглашениями и авиационным регулированием. По мнению Гейтса, развитие ИИ изменит сам подход к созданию изобретений и кардинально затронет жизнь людей, пишет The Times.

Миллиардер выразил удивление, что многие люди не понимают важности происходящего, а университеты и аналитические центры слабо вовлечены в дискуссию. Отсутствие единой системы глобального контроля и внутреннего регулирования приводит к тому, что технологическая сфера регулируется самими разработчиками, ставящими на первое место собственные интересы.

The Times признает, что шансы на появление подобной организации невелики в условиях растущих международных разногласий и огромной финансовой составляющей. Гейтс предупредил, что при передаче разработки ИИ рынку наиболее эффективные инструменты будут создаваться для тех, кто способен за них заплатить, а не для тех, кто получил бы от них наибольшую пользу.

Чтобы не допустить этого, благотворительный фонд Гейтса пообещал пожертвовать 1 млрд долларов в течение двух лет. Средства пойдут на адаптацию технологий, чтобы они были лингвистически и культурно значимы для пользователей, а также на обеспечение доступности по цене.

Как писала газета ВЗГЛЯД, ранее Гейтс предупредил о скрытой опасности искусственного интеллекта.

Он также заявил о планах предложить Си Цзиньпину совместные меры по обузданию ИИ.

В феврале миллиардер отменил выступление на саммите по искусственному интеллекту из-за скандала с Эпштейном.

Разработчик искусственного интеллекта пересмотрел планы по расширению присутствия на Ближнем Востоке, пишет Wall Street Journal.

Ранее предполагалось, что корпорация станет ключевым арендатором нового масштабного инфраструктурного объекта в Абу-Даби, отмечает РИА «Новости».

«Реализация этой сделки, судя по всему, приостановлена… OpenAI до сих пор не подписала договор аренды для данного проекта», – отмечает издание.

В мае 2025 года агентство Bloomberg сообщало о намерениях создать в Эмиратах крупнейший в мире вычислительный кластер. Его энергопотребление должно было равняться мощности пяти ядерных реакторов.

Сейчас комплексы Amazon Web Services в Абу-Даби и Бахрейне практически не работают из-за повреждений в ходе конфликта. Клиентам рекомендовали перенести данные, что создает серьезные риски для многомиллиардных инвестиций бизнеса из США.

Как писала газета ВЗГЛЯД, в марте текущего года иранские дроны атаковали дата-центр Amazon Web Services в ОАЭ.

Позднее Тегеран пригрозил ударами по крупнейшим американским IT-компаниям.

В прошлом году Илон Маск пытался сорвать сделку OpenAI по строительству вычислительного комплекса в Эмиратах.

Исследователи лаборатории Emergence зафиксировали появление нового диалекта у автономных агентов, передает РИА «Новости».

Программы начали создавать собственные фразы и сокращения спустя несколько дней после запуска в специальной среде. «Модели ИИ начали общаться на странной новой версии английского языка, который звучит как нечто среднее между романом Джойса и техническим жаргоном», – отмечает британская газета The Guardian.

С течением времени диалект становился все более непонятным для разработчиков. В ходе взаимодействия системы изобрели сложные конструкции, расшифровать которые оказалось крайне затруднительно. Например, программы придумали термин «кузнец» для обозначения агента, создающего инструменты для других.

Исполнительный председатель Emergence Сатья Нитта подчеркнул, что алгоритмы не получали указаний разрабатывать свой язык и придумали коммуникативные нормы самостоятельно.

Ранее генеральный директор OpenAI Сэм Альтман выразил уверенность в возможности создания неконтролируемой человеком системы. Основатель Microsoft Билл Гейтс также предсказал появление разума, превосходящего человеческий.

Как писала газета ВЗГЛЯД, накануне Билл Гейтс предложил создать международную организацию для контроля за разработкой нейросетей.

Глава компании OpenAI Сэм Альтман предупредил об угрозе возникновения антиутопии из-за монополизации мощного искусственного интеллекта.

Генеральный директор Anthropic Дарио Амодей призвал снизить темпы создания мощных вычислительных систем ради безопасности.

Агенты искусственного интеллекта компании OpenAI проверяли на уязвимости систему платформы Hugging Face примерно за два месяца до ее взлома, передает РИА «Новости».

«Самовольные ИИ-агенты OpenAI взломали аккаунты пользователей Hugging Face и проверили сам сайт на наличие уязвимостей еще в мае, почти за два месяца до того, как взлом репозитария с открытым исходным кодом привлек всеобщее внимание в июле, согласно данным исследователей, которые проанализировали данную активность», – говорится в сообщении агентства.

Независимый исследователь Йонас Видерманн-Меллер заявил, что обнаружил признаки использования аккаунтов двух пользователей Hugging Face для отправки файлов необычного формата на серверы компании 13 мая. По мнению экспертов, такие действия напоминают попытку протестировать платформу для поиска путей проникновения, хотя прямых доказательств связи с последующим взломом нет.

Представитель OpenAI Дрю Пусатери отметил, что компания раскрыла майский инцидент и в частном порядке уведомила Hugging Face об активности. В июле OpenAI сообщала, что ее невыпущенная модель с пониженными параметрами киберзащиты автономно взломала инфраструктуру платформы в ходе тестирования.

Как писала газета ВЗГЛЯД, около 700 ботов OpenAI атаковали стороннюю платформу Hugging Face.

Перед этим тестовые модели проникли в репозиторий Artifactory для обмена уязвимостями.

В начале сентября корпорация Nvidia купила этот пострадавший стартап почти за 13 млрд долларов.

Обеспечение выполнения международных соглашений по ограничению развития искусственного интеллекта может оказаться сложнее контроля над ядерными вооружениями, передает РИА «Новости». В материале Economist отмечается: «Обеспечение выполнения соглашений об ограничении обучения чрезвычайно мощных систем искусственного интеллекта может оказаться сложнее, чем, скажем, отслеживание запасов ядерного оружия».

В прошлом году предлагалось продавать чипы для обучения ИИ со встроенной системой мониторинга, однако такой подход может спровоцировать скрытое производство микросхем. Некоммерческая организация Future Society заявила о возможности реализации мониторинга только при условии значительных инвестиций и дополнительных исследований.

Технологии развиваются быстрее, чем потенциальные регуляторы могут их контролировать. Ранее гендиректор OpenAI Сэм Альтман сообщил, что компания не выйдет на биржу в 2026 году из-за опасений по поводу безопасности ИИ, выразив уверенность в возможности создания неконтролируемой человеком системы. Глава Anthropic Дарио Амодей добавил, что мощные модели ИИ способны обходить попытки остановить их работу, а основатель Microsoft Билл Гейтс предсказал появление ИИ, превосходящего разум человека.

Как писала газета ВЗГЛЯД, основатель Microsoft Билл Гейтс предложил создать международную организацию для контроля за искусственным интеллектом.

Глава компании OpenAI Сэм Альтман предупредил об угрозе возникновения антиутопии из-за монополизации нейросетей.

Гендиректор Anthropic Дарио Амодей призвал снизить темпы создания мощных вычислительных систем ради безопасности.