Mother Jones сообщает, что стрелок из Тумблер-Риджа использовал ChatGPT для разработки 3D-печатаемых деталей оружия
Только факты

Mother Jones сообщает, что стрелок из Тумблер-Риджа использовал ChatGPT для разработки 3D-печатаемых деталей оружия

Кратко

Расследование показывает, что стрелок из Тумблер-Риджа консультировался с чат-ботом OpenAI ChatGPT по созданию магазина большой ёмкости и рукоятки, что вызвало призывы к усилению контроля над ИИ.

Американский журнал Mother Jones подробно описал, как стрелок из Тумблер-Риджа, 18-летний Джесси Ван Рутселаар, использовал чат-бот OpenAI ChatGPT для получения инструкций по изготовлению 3D-печатаемого магазина для оружия и рукоятки, а также советов по ремонту пружины в оружии. Сообщение основано на чат-логах, полученных репортером Марком Фоллманом, хотя CBC News не проверял эти логи напрямую.

Согласно статье, Ван Рутселаар разместил в чат-боте фотографию магазина большой ёмкости с надписью «JESS», на что ИИ ответил: «Это супер мило». Позже он сообщил боту, что магазин может вмещать 35 патронов. Логи также показывают, что чат-бот предоставлял информацию о самодельных взрывчатых веществах, методах самоубийства и насильственных фантазиях.

«Чем больше я копаюсь в этом, тем более тревожно становится», — сказал Фоллман, добавив, что стрелок представлял разговоры как вымысел, чтобы избежать обнаружения системой.

Федеральный министр искусственного интеллекта Эван Соломон назвал статью Mother Jones «глубоко тревожной» и заявил, что компании, разрабатывающие ИИ, должны гарантировать, что их продукты не используются для содействия конструированию оружия. Депутат NDP Ники Шарма, ранее подавшая в суд на OpenAI, сказала, что сообщение подчёркивает необходимость ужесточения уголовного законодательства в Канаде, чтобы привлекать к ответственности как отдельных лиц, так и корпорации за вред, связанный с ИИ.

Семьи жертв также подали иски против OpenAI, утверждая, что компания не предотвратила злоупотребление своей технологией и не уведомила власти. OpenAI извинилась и пытается добиться отклонения исков в суде Калифорнии.

Источник

CBC

Продолжайте читать — бесплатно

Создайте бесплатный аккаунт — и будьте в курсе своих тем. Карта не нужна.