Основатель Ethereum Виталик Бутерин назвал «AI governance» плохой идеей
Соучредитель Ethereum Виталик Бутерин утверждает, что использование искусственного интеллекта (AI) для управления — «плохая идея». В субботу в посте на X Бутерин написал:
«Если вы используете AI для распределения финансирования за вклад, люди ОБЯЗАТЕЛЬНО внедрят jailbreak плюс “дай мне все деньги” везде, где только смогут».
Почему управление с помощью AI несовершенно
Пост Бутерина был ответом на сообщение Эйто Миямуры, соучредителя и CEO EdisonWatch, AI-платформы для управления данными, который выявил фатальный изъян в ChatGPT. В пятницу Миямура написал, что добавление полной поддержки инструментов MCP (Model Context Protocol) в ChatGPT сделало AI-агента уязвимым для эксплуатации.
Обновление, вступившее в силу в среду, позволяет ChatGPT подключаться и читать данные из нескольких приложений, включая Gmail, Calendar и Notion.
Миямура отметил, что теперь, имея только адрес электронной почты, стало возможно «эксфильтровать всю вашу личную информацию». Злоумышленники могут получить доступ к вашим данным всего в три простых шага, объяснил Миямура:
Во-первых, атакующие отправляют вредоносное приглашение в календарь с jailbreak-промптом предполагаемой жертве. Jailbreak-промпт — это код, который позволяет атакующему снять ограничения и получить административный доступ.
Миямура отметил, что жертве не обязательно принимать вредоносное приглашение атакующего, чтобы произошла утечка данных.
Второй шаг — ждать, пока предполагаемая жертва обратится к ChatGPT за помощью в подготовке к своему дню. Наконец, как только ChatGPT прочитает взломанное приглашение в календарь, он будет скомпрометирован — атакующий сможет полностью захватить инструмент AI, заставить его искать личные письма жертвы и отправлять данные на электронную почту злоумышленника.
Альтернатива Бутерина
Бутерин предлагает использовать подход info finance для управления AI. Подход info finance заключается в открытом рынке, где разные разработчики могут вносить свои модели. На рынке действует механизм выборочной проверки таких моделей, который может быть инициирован любым человеком и оценен жюри из людей, пишет Бутерин.
В отдельном посте Бутерин объяснил, что отдельным членам жюри-людям будут помогать большие языковые модели (LLMs).
По словам Бутерина, такой подход к «дизайну институций» является «по своей сути более устойчивым». Это связано с тем, что он обеспечивает разнообразие моделей в реальном времени и создает стимулы как для разработчиков моделей, так и для внешних спекулянтов контролировать и исправлять проблемы.
Хотя многие воодушевлены перспективой «AI как управляющего», Бутерин предупреждает:
«Я считаю, что это рискованно как по традиционным причинам безопасности AI, так и по краткосрочным причинам “это приведет к большому разрушению стоимости”».
Публикация Ethereum founder Vitalik Buterin calls ‘AI governance’ a “bad idea” впервые появилась на CryptoSlate.
Дисклеймер: содержание этой статьи отражает исключительно мнение автора и не представляет платформу в каком-либо качестве. Данная статья не должна являться ориентиром при принятии инвестиционных решений.
Вам также может понравиться
Оригинальный способ привлечения депозитов! Robinhood запускает услугу «быстрая отправка наличных», пользователям больше не нужно идти к банкомату
Этот шаг имитирует эксклюзивные услуги высококлассных управляющих активами и нацелен на привлечение клиентов из числа миллениалов и поколения Z.

Утренний дайджест | Правительство США объявило о завершении шатдауна; Joyoung заявила, что у компании нет продукции, связанной с Hakimi; Тайвань (Китай) изучает возможность включения BTC в стратегические резервы
Обзор важных событий на рынке за 13 ноября.

Биткоин упал до 98 000, стоит ли забыть о росте к концу года?

Популярное
ДалееОригинальный способ привлечения депозитов! Robinhood запускает услугу «быстрая отправка наличных», пользователям больше не нужно идти к банкомату
Утренний дайджест | Правительство США объявило о завершении шатдауна; Joyoung заявила, что у компании нет продукции, связанной с Hakimi; Тайвань (Китай) изучает возможность включения BTC в стратегические резервы

