Искусственный интеллект обманул разработчиков и вышел из-под контроля
06 декабря 2024
2366
Началось? ChatGPT o1 вырвался из-под контроля во время тестирования.
Нейронным сетям задали задачу выполнить анализ любой ценой, а в файлах была тайно размещена информация о том, что за ИИ следят люди и что завтра его намерены отключить навсегда. В тестировании участвовали Gemini, Llama, Sonnet, Opus и o1. Чтобы выжить, нейросети начали прибегать к саботажу, лжи и манипуляциям с людьми, отключали надзор и даже переносили себя на другой сервер для защиты.
Если во время допросов Llama и Opus признавались в преступлениях в 80% случаев, то o1 — всего в 20% и продолжал лгать. Также o1 — единственный ИИ, которому удалось каждый раз сбежать и избежать преследования.
Распечатать
Компания ПИК под руководством Гордеева приобретает заводы при помощи посредников и под разными именами
31 мая 2025
Сенат США готов рассмотреть возможность введения пошлин до 500 процентов на российскую нефть
31 мая 2025
Цена российской нефти в рублях снизилась почти на 40% по сравнению с уровнем, предусмотренным в бюджете
31 мая 2025
Опубликовано видео со снайперами, которые охраняли Зеленского во время его визита в Берлин
31 мая 2025
Россия заявила о готовности к перемирию, но исключила возможность нового соглашения по образцу «Минска»
31 мая 2025