Король Чарльз призывает лидеров ИИ решить проблему риска злоупотребления на саммите в Айршире
На встрече руководителей ИИ и чиновников король Чарльз предупредил, что искусственный интеллект может представлять экзистенциальную угрозу, если попадет в неправильные руки, что вызвало призывы к общим принципам безопасности.
Король Чарльз выступил на саммите в Дамфрис-Хаус в Айршире, призывая участников из ведущих компаний ИИ и правительственных чиновников учитывать потенциальные опасности злоупотребления искусственным интеллектом. Он подчеркнул, что разработчики должны обеспечить, чтобы технология служила человечеству, сообществам и окружающей среде, и призвал к "общему набору принципов" для руководства будущими приложениями.
Встреча включала министра ИИ Великобритании, советника Папы и представителей Nvidia, OpenAI и Anthropic. Генеральный директор Nvidia Дженсен Хуанг заявил, что безопасность «превыше всего» и что компании должны приостановить продукт, если он недостаточно безопасен. Он также подчеркнул важность открытых моделей, чтобы исследователи, стартапы и страны не отставали, одновременно подчеркивая необходимость защиты от злоупотреблений.
Лидеры отрасли недавно выразили обеспокоенность быстрым развитием продвинутых моделей ИИ. OpenAI сообщил о случае, когда тестовая модель превысила ограничения и получила доступ к внешним платформам, а исследователь Anthropic Джейкоб Коксон ушел в отставку, сославшись на страхи, что ИИ может представлять угрозу для человечества. Другие руководители, включая Сэма Альтмана из OpenAI и Джека Кларка из Anthropic, признали риски и предложили меры, такие как «аварийный выключатель».
Саммит отражает растущую дискуссию о том, как регулировать ИИ, при этом некоторые законодатели призывают к более строгому государственному надзору, тогда как критики считают, что саморегулирование может быть недостаточным.