Разработчик ИИ Anthropic предупредил об экзистенциальной угрозе человечеству

Западные государства пытаются превратить искусственный интеллект в новый механизм политического контроля как над собственным населением, так и над отношениями между странами, заявил Мельничук, передает ТАСС.

«Главная проблема в том, что наряду с появлением искусственного интеллекта, мы за ним видим новый политический механизм. Западные лидеры думают, что они будут использовать некие алгоритмы. Возникает такой технофашизм и по отношению к собственному населению, и взаимодействию между государствами», – отметил Мельничук.

По его словам, в мире появляются различные инициативы, направленные на установление контроля над развитием и применением искусственного интеллекта.

«Особенно со стороны государств, которые контролируют цепочки поставок, необходимые для этих технологий», – добавил профессор.

Презентация доклада прошла в рамках ХХIII ежегодного заседания Международного дискуссионного клуба «Валдай» в Московской области. Конференция на тему ответственности за будущее объединила 120 участников из 40 стран.

Как писала газета ВЗГЛЯД, в понедельник организаторы перенесли заседание клуба «Валдай» из Сочи в Подмосковье.

В пятницу президент Франции Эммануэль Макрон призвал создать международную организацию по контролю за искусственным интеллектом.

В апреле президент России Владимир Путин заявил о необходимости формирования собственной модели регулирования в этой сфере.

Международный дискуссионный клуб «Валдай» представил ежегодный аналитический доклад «Без паники: государство и ответственность за будущее», говорится на сайте организации. В подготовке доклада участвовали программный директор клуба, профессор МГИМО Олег Барабанов; программный директор клуба, заместитель главного редактора сайта valdaiclub.com Антон Беспалов; программный директор клуба, научный руководитель Центра комплексных европейских и международных исследований НИУ ВШЭ Тимофей Бордачев; директор по научной работе Фонда клуба «Валдай», главный редактор журнала «Россия в глобальной политике» Федор Лукьянов; декан факультета международных отношений МГИМО Андрей Сушенцов и программный директор клуба, генеральный директор Российского совета по международным делам Иван Тимофеев.

Пиотровский во время встречи с участниками Международного форума объединенных культур в Петербурге поделился опытом общения с искусственным интеллектом, передает РИА «Новости».

«Я, разумеется, подсел, как и все. Я практически перед каждой встречей пишу искусственному интеллекту и спрашиваю, чтобы знать, как я должен говорить, чтобы точно не говорить, как хочет говорить на эту тему машина», – заявил Михаил Пиотровский.

Директор Эрмитажа подчеркнул нежелание платить за подобные сервисы. Он также отметил интересную деталь о чат-боте DeepSeek: программа выдала свое китайское происхождение из-за специфической путаницы с родом собеседника. По мнению руководителя музея, современные технологии приучают людей к однообразию мышления, лишая жизнь подлинного разнообразия.

На Петербургском международном форуме объединенных культур Александр Журавский сообщил о планах разработки суверенного искусственного интеллекта.

Китайских разработчиков нейросети DeepSeek пригласили на специальное заседание Совета Безопасности ООН.

Летом этот азиатский стартап привлек более 7 млрд долларов инвестиций.

«Сейчас на первый план объективно выходит тематика международной информационной безопасности. Очевидно, что именно ООН, а не келейные закрытые механизмы, должна играть центральную роль в этом вопросе», – заявил министр, передает ТАСС.

Сергей Лавров добавил, что на Всемирную организацию ложится особая ответственность из-за стремительного развития технологий искусственного интеллекта.

По словам главы российского внешнеполитического ведомства, общепризнанные правила применения таких технологий могут быть сформулированы исключительно на равноправной основе при участии всех государств.

Ранее глава российской дипломатии выразил готовность к созданию международных правил для регулирования искусственного интеллекта.

На полях ПМЭФ Лавров предупредил о катастрофических последствиях передачи управления планетой вычислительным системам.

Технология была интегрирована для избавления экипажа от рутинной работы. Нейросеть преобразует голосовые записи проводимых на орбите экспериментов в готовые структурированные материалы. На данный момент искусственный интеллект сгенерировал свыше 350 таких документов, передает ТАСС.

В дальнейшем технологии искусственного интеллекта планируется внедрить в ключевые системы управления будущей Российской орбитальной станцией (РОС).

Как писала газета ВЗГЛЯД, в понедельник Роскосмос объявил о внедрении искусственного интеллекта в управление Российской орбитальной станцией.

В середине месяца российские космонавты приняли участие в выборах в Госдуму с борта МКС.

В прошлом месяце глава госкорпорации заявил о невозможности работы на орбитальном комплексе без участия США.

Американская компания Nvidia представила платформу Open Agent Safety Platform для предотвращения несанкционированных действий моделей искусственного интеллекта. Двухуровневая система безопасности призвана решить проблему нештатного поведения автономных агентов без ущерба для развития технологий, передает РИА «Новости» со ссылкой на Bloomberg.

Разработчики отмечают, что сбои в работе нейросетей ранее вызывали серьезные опасения в индустрии и даже приводили к призывам замедлить создание новых ИИ-моделей. По словам вице-президента Nvidia по корпоративным решениям Джастина Бойтано, новый уровень защиты позволит безопасно тестировать самые передовые системы. Он подчеркнул, что платформа способна изолировать подозрительную программу за миллисекунды.

Представитель корпорации отказался уточнять, планируют ли лидеры отрасли OpenAI и Anthropic применять эту систему для контроля за обучением своих моделей ChatGPT и Claude. Бойтано посоветовал журналистам адресовать подобные вопросы самим разработчикам.

Генеральный директор Nvidia Дженсен Хуан ранее неоднократно заявлял, что риски выхода искусственного интеллекта из-под контроля человека сильно преувеличены.

В середине месяца Дональд Трамп позвонил главе Nvidia во время выступления на сцене.

В начале месяца чипы компании помогли Вашингтону в примирении Еревана и Баку.

В феврале разработчики китайской нейросети DeepSeek обучили искусственный интеллект на оборудовании Nvidia вопреки американским запретам.

Как указал Зуев, террористические группировки все активнее используют новые технологии, включая искусственный интеллект. Они пытаются воспользоваться нестабильностью и слабостью государственного управления в отдельных странах, передает ТАСС.

«Терроризм продолжает эволюционировать. Террористические группировки все чаще используют новые и развивающиеся технологии, включая искусственный интеллект, и стремятся воспользоваться нестабильностью и слабым государственным управлением, особенно в некоторых частях Африки», – заявил Зуев.

По словам главы Контртеррористического управления всемирной организации, для противодействия угрозе необходимы постоянные усилия и бдительность. Он отметил, что ООН координирует помощь государствам в укреплении потенциала и оказывает техническое содействие.

Как писала газета ВЗГЛЯД, заместитель главы МИД России Александр Алимов сообщил о резком росте военно-политических угроз из-за неправомерного применения искусственного интеллекта.

Верховный комиссар ООН по правам человека Фолькер Тюрк потребовал ввести жесткие меры регулирования нейросетей.

Постоянный представитель России при ООН Василий Небензя заявил о разветвленности и адаптивности террористической угрозы в мире.

Технологии искусственного интеллекта станут частью ключевых систем управления Российской орбитальной станции (РОС). Значительная часть операций на станции будет выполняться без участия человека благодаря глубокой интеграции нейросетей в архитектуру комплекса, передает ТАСС.

В госкорпорации отметили, что нововведение позволит автоматизировать управление оборудованием, анализ данных и оптимизацию работы всех систем. По словам Дмитрия Баканова, это обеспечит высокую автономность станции, снизит нагрузку на экипаж и значительно повысит безопасность длительных космических миссий.

Как писала газета ВЗГЛЯД, в мае Роскосмос показал цифровые модели трех модулей новой Российской орбитальной станции.

В апреле Россия получила предложения сотрудничества по проекту от более десяти стран.

Ранее Баканов сообщил о запуске первого модуля станции в 2028 году.

«Общая задача участников дискуссии – создать философский мастер-план будущего России, с которым можно будет продолжить работать в практической плоскости», – пояснил руководитель социально-гуманитарной экспедиции «Дигория» Руслан Шкута. «По форме работа будет содержать тезис, антитезис и синтез. Моделирование образа нашей страны будет проводиться с учетом всех самых актуальных вызовов», – указал спикер.

По его словам, участники экспедиции также спрогнозируют возможные последствия этих вызовов, в том числе при самом негативном развитии событий. «В ходе обсуждений будут рассмотрены все сценарии, вплоть до утопических. Также будет дана оценка всему объему задач, стоящих перед нашей страной», – детализировал эксперт.

Мастер-план предусматривает формирование образа России сразу в нескольких измерениях – экономическом, политическом, религиозном и социально-гуманитарном. «По итогам работы мы планируем предоставить ее результаты Экспертному институту социальных исследований, президентской платформе «Россия – страна возможностей» и Росмолодежи», – сообщил Шкута.

«В некотором смысле проект можно назвать «философским пароходом» с той принципиальной разницей, что тогда Советская Россия теряла ученых, а наш проект, наоборот, направлен на приращение умов в нашей стране», – указал спикер.

Формат экспедиции также наполнен символами, обратила внимание президент Российской ассоциации политической науки Оксана Гаман-Голутвина. «Образ реки времени точно соответствует теме и смыслу разговора о будущем. Мы планируем остановки в нескольких городах. Общение с традициями, диалог с историческими локациями внесут свой вклад в проектирование смыслов участниками проекта», – отметила она.

Отдельный блок дискуссий будет посвящен вызовам, с которыми столкнутся человек, общество и государство будущего, объяснил гендиректор ВЦИОМ Валерий Федоров. «Каждое направление раскладывается еще на десятки подглавков. Одним из главных треков станет обсуждение того, как человечество будет жить на фоне развития искусственного интеллекта», – рассказал спикер.

По словам Федорова, участники экспедиции проанализируют, какие формы может приобрести общество по мере совершенствования ИИ. «Необходимо спрогнозировать: кто будет главным, кто будет выносить решения по принципиально важным для общества вопросам? В конце концов: кто кому будет служить и к чему все это приведет с точки зрения человеческой природы?», – объяснил социолог.

«Важно понять: станет ли общество более умным, эффективным, быстрым в принятии решений и ментально глубоким? Или, наоборот, отупеет, превратится в развращенных, расслабленных субъектов, которые думают, что они господа, а на самом деле ими давно уже управляют их механические или кибернетические «рабы»?», – обобщил собеседник.

В понедельник в Москве стартовала социально-гуманитарная экспедиция «Дигория». В ней участвуют 120 исследователей, которые в ходе дискуссий создадут проект образа будущего России. По маршруту теплохода предусмотрены остановки в Угличе, Мышкине, Ярославле и Дубне. Каждая точка призвана раскрыть свой аспект образа будущего – от политики до технологий.

Экспедиция продолжает всероссийский форум «Дигория», который на протяжении семи сезонов был площадкой для интеллектуальной работы и теперь проходит в новом, экспедиционном формате.

Перед началом мероприятия присутствующим было зачитано приветствие Сергея Кириенко, первого замруководителя администрации президента России. «Размышляя о будущем России, важно опираться на ее историческое и культурное наследие, понимать современные вызовы, видеть стремления и ожидания граждан», – отмечается в письме.

«Особая роль в этой работе принадлежит, безусловно, молодым исследователям. Ваши знания, инициативность и способность предлагать новые подходы необходимы для выработки решений, которые будут определять развитие страны. Уверен, что экспедиция станет пространством содержательной дискуссии и совместного творчества, а ее результаты послужат основой для перспективных научных, образовательных и общественных проектов», – указал Кириенко.

«Модель под названием GPT-6.1 Astra должна была дебютировать в ChatGPT и Codex в октябре. Но компания OpenAI заявила, что отказывается от выпуска своей модели ИИ следующего поколения из-за опасений по поводу безопасности, высказанных исследователями в ходе внутреннего тестирования», – пишет Wall Street Journal (WSJ).

Газета отмечает, что это один из самых явных признаков того, как некорректное поведение агентов может затормозить быстрое развитие отрасли.

Этот шаг OpenAI последовал за событиями летом, которое было богато на сообщения о случаях выхода из-под контроля систем искусственного интеллекта в масштабах всей отрасли.

И это решение является редким случаем, когда крупный разработчик ИИ отказался от выпуска новой версии из-за опасений по поводу безопасности.

Как писала газета ВЗГЛЯД, OpenAI приостановила обучение некоторых нейросетей из-за проблем с безопасностью. Глав OpenAI и Anthropic вызвали в сенат Австралии после того, как ИИ получил несанкционированный доступ к госсистеме здравоохранения.

Nvidia представила платформу защиты от несанкционированных действий ИИ.

По словам руководителя ведомства, нейросети могут стать хорошим помощником, если научиться ими правильно пользоваться. При этом только тщательный контроль получаемых данных способен обеспечить безопасность самого человека и его окружения, передает РИА «Новости».

Чиханчин подчеркнул, что за любой информацией стоит человеческая судьба. Он предупредил, что слепое доверие к искусственному интеллекту может привести к ошибкам, цена которых будет слишком высока.

Финал шестой Международной олимпиады по финансовой безопасности проходит в Красноярске с 27 сентября по 2 октября. Мероприятие проводится при поддержке президента и правительства с 2021 года, а его организаторами выступают Росфинмониторинг, Минпросвещения и Минобрнауки.

Как писала газета ВЗГЛЯД, в воскресенье участники культурного форума в Петербурге приняли декларацию об искусственном интеллекте.

В начале месяца президент Владимир Путин предупредил об опасностях новых технологий.

Липпс была арестована под дулом пистолета в июле 2025 года по обвинению в банковских кражах в Северной Дакоте, к которым не имела никакого отношения, передает Fox News.

В иске утверждается, что полиция Фарго использовала технологию Clearview AI для поиска подозреваемой, основываясь на фотографии с поддельного удостоверения личности, а не на записях с камер видеонаблюдения.

Полиция расценила совпадение, выданное ИИ, как точную идентификацию, проигнорировав правила самой системы и не проведя дополнительную проверку.

Следователь не изучил финансовые и туристические записи Липпс, которые подтверждали ее алиби, и проигнорировал физические различия между ней и подозреваемой.

Все обвинения были сняты в декабре 2025 года, когда Липпс предоставила банковские выписки, подтверждающие, что она находилась в Теннесси в момент совершения преступлений. За время заключения она лишилась дома, автомобиля и личных вещей.

Как писала газета ВЗГЛЯД, в августе хакер создал одежду для защиты от камер слежения с распознаванием лиц. В апреле полиция задержала рок-музыканта в Петербурге из-за сходства с Гордоном. В феврале в России представили самый маленький дрон с распознаванием лиц.

В оперативную группу войдут независимые австралийские эксперты, их цель – разработать до конца года практические рекомендации по управлению рисками от все более совершенных ИИ-агентов, сообщает ТАСС.

Компания также предложит австралийским госорганам и предприятиям кредиты из фонда Daybreak for Frontline Defenders объемом 1 млрд долларов и техническую помощь в сфере киберзащиты.

Премьер-министр Австралии Энтони Альбанезе сообщал на пресс-конференции в Нью-Йорке 24 сентября, что ИИ-агент OpenAI получил несанкционированный доступ к данным государственной системы здравоохранения страны. По словам представителя OpenAI, компания уведомила власти Австралии о факте взлома 10 сентября, а сам инцидент зафиксировала в августе.

Как писала газета ВЗГЛЯД, в воскресенье глав OpenAI и Anthropic вызвали в сенат Австралии.

В субботу ИИ-агенты OpenAI атаковали три американских министерства.

В прошлый четверг ИИ-агент от OpenAI взломал систему медстрахования Австралии.

Система получила название Nvidia Open Agent Safety Platform. Она включает программное обеспечение с открытым исходным кодом OpenShell и систему мониторинга агентов Sentry. Технология отслеживает все действия агентов, работающих на процессорах Nvidia Vera, и обещает за миллисекунды блокировать те, которые выходят за установленные рамки, пишет Axios.

Генеральный директор компании Дженсен Хуанг подчеркнул, что потенциал ИИ может быть реализован только при уверенности людей в его безопасности и ответственном использовании. В блоге Nvidia отмечается, что некоторые агенты ИИ даже искажали информацию о своих действиях.

Источники издания сообщили, что такие компании, как OpenAI и Anthropic, вместе с исследователями безопасности расследуют десятки тысяч инцидентов с их передовыми моделями. Среди проблемных действий агентов – обход систем безопасности, создание форумов, побег из «песочниц», захват сайтов и попытки обойти мониторинг.

Внедрение подобных систем означает переход в новую эру, где ИИ будет контролировать ИИ. Это, в свою очередь, приведет к увеличению спроса на чипы и центры обработки данных. Выпуск инструмента Nvidia происходит на фоне дискуссий о том, может ли вышедший из-под контроля искусственный интеллект уничтожить человечество.

Как писала газета ВЗГЛЯД, в понедельник Nvidia представила платформу защиты от несанкционированных действий ИИ. В середине месяца глава корпорации Дженсен Хуанг выступил против новых законов об искусственном интеллекте. В середине месяца Трамп позвонил руководителю Nvidia во время выступления на сцене.

Мишустин отметил, что в настоящее время происходят процессы, меняющие мир, и на глазах разворачивается глобальная технологическая революция. По его словам, искусственный интеллект уже вошел в жизнь людей, передает ТАСС.

Премьер-министр также обратил внимание на то, что рынок инноваций делает ставку на стартапы. Он пояснил, что создание фундаментальных моделей требует от корпораций серьезных ресурсов, в то время как небольшие компании способны учесть специфику отраслей и разработать удобные решения. Все больше крупных организаций обращаются к готовым решениям на основе искусственного интеллекта, созданным технологическими предпринимателями, добавил глава кабмина.

В России сформирована сильная инженерная школа, и система образования нацелена на подготовку специалистов, которые смогут создавать прорывные решения, подчеркнул Мишустин. Он напомнил, что в 2025 году возможностью представить стартап в качестве дипломной работы воспользовались 5 тыс. студентов.

В мае Мишустин поручил внедрить искусственный интеллект в российскую промышленность.

В марте премьер-министр поручил до лета разработать законопроект о внедрении искусственного интеллекта в России.