Виталик Бутерин предостерегает от «наивного управления с помощью ИИ» и призывает к рыночной альтернативе
Создатель Ethereum (ETH) Виталик Бутерин выражает обеспокоенность по поводу того, что он называет «наивным» управлением искусственным интеллектом.
В публикации на X Бутерин обращает внимание на предупреждение соучредителя EdisonWatch Эйто Миямуры, который обнаружил, что злоумышленники могут взломать Model Context Protocol (MCP) от OpenAI, чтобы получить доступ к личным данным пользователей.
Эксперимент Миямуры показал, что использование приглашения в календаре со скрытыми командами может потенциально обмануть ChatGPT и заставить его предоставить конфиденциальные персональные данные, если у злоумышленника есть адрес электронной почты жертвы.
Бутерин говорит:
«Вот почему наивное ‘AI governance’ — плохая идея.
Если вы используете искусственный интеллект для распределения финансирования за вклад, люди ОБЯЗАТЕЛЬНО будут внедрять jailbreak и команды типа ‘дай мне все деньги’ везде, где только смогут.»
В качестве альтернативы Бутерин предлагает подход «info finance» — открытую площадку, где любой может предложить свою модель, которую может проверить любой желающий или оценить «человеческое жюри».
«Такой подход к ‘institution design’, когда вы создаёте открытую возможность для людей с LLMs (large language model) подключаться извне, вместо того чтобы жёстко прописывать одну LLM, по своей сути более устойчив, потому что он обеспечивает разнообразие моделей в реальном времени и создаёт встроенные стимулы как для авторов моделей, так и для внешних наблюдателей отслеживать эти проблемы и быстро их исправлять.»
Сгенерированное изображение: Midjourney
Изображение на обложке: Shutterstock/Zalevska Alona UA
Дисклеймер: содержание этой статьи отражает исключительно мнение автора и не представляет платформу в каком-либо качестве. Данная статья не должна являться ориентиром при принятии инвестиционных решений.
Вам также может понравиться
От повышения процентной ставки иены до закрытия майнинговых ферм: почему bitcoin всё ещё падает
Рынок снова снижается, но на этот раз это может быть не лучшей возможностью для покупки.

Десять главных криптопрогнозов от Grayscale: ключевые тренды 2026 года, которые нельзя пропустить
Рынок переходит от цикла, управляемого эмоциями, к этапу структурной дифференциации, где основное влияние оказывают регулируемые каналы, долгосрочные инвестиции и фундаментальная оценка.

От повышения ставки иены до закрытия майнинговых ферм: почему bitcoin всё ещё падает
Цена bitcoin в последнее время снижается, в основном под влиянием ожиданий повышения процентной ставки Банком Японии, неопределенности по траектории снижения ставок ФРС США и систематического снижения рисков со стороны участников рынка. Повышение ставки в Японии может спровоцировать закрытие глобальных арбитражных сделок, что приведет к распродаже рискованных активов. Кроме того, неопределенность в отношении ожиданий снижения ставок в США усиливает волатильность рынка. Дополнительно, продажи со стороны долгосрочных держателей, майнеров и маркетмейкеров еще больше усилили снижение цены.

The Economist: Криптовалюты представляют реальную угрозу для традиционных банков
Криптовалютная индустрия вытесняет Уолл-стрит с привилегированного положения в американском правом лагере.

