Manus достиг значительных результатов в Бенчмарке GAIA

Недавно Manus достиг прорывных результатов в бенчмарке GAIA, его производительность превзошла крупные языковые модели того же уровня. Это означает, что Manus способен самостоятельно выполнять сложные задачи, такие как международные коммерческие переговоры, включая разбор условий контрактов, предсказание стратегий, генерацию предложений, а также координацию юридических и финансовых команд.

Преимущества Manus в основном заключаются в трех аспектах: способности к динамическому разбиению целей, способности к кросс-модальному выводу и способности к обучению с увеличением памяти. Он может разбивать крупные задачи на сотни выполняемых подзадач, одновременно обрабатывая различные типы данных, и постоянно повышать свою эффективность принятия решений и снижать уровень ошибок с помощью обучения с подкреплением.

Этот прогресс снова вызвал обсуждение в отрасли о путях эволюции ИИ: будущее — это доминирование AGI или сотрудничество MAS? Дизайн Manus подразумевает две возможности: первая — это путь AGI, который стремится улучшить уровень индивидуального интеллекта, приближаясь к человеческой способности к комплексному принятию решений; вторая — это путь MAS, в котором он выступает в роли суперкоординатора, управляя тысячами агентов в вертикальных областях, которые действуют совместно.

Этот спор на самом деле отражает основное противоречие в том, как сбалансировать эффективность и безопасность в развитии ИИ. Чем ближе индивидуальный интеллект к AGI, тем выше риск «черного ящика» в принятии решений; хотя сотрудничество множества агентов может распределить риски, оно также может привести к упущению ключевых моментов принятия решений из-за задержек в коммуникации.

Эволюция Manus также усиливает присущие риски развития ИИ, такие как проблемы конфиденциальности данных, предвзятости алгоритмов и атак. Например, в медицинских сценариях Manus необходимо в реальном времени получать доступ к геномным данным пациентов; в финансовых переговорах это может затронуть непубличную финансовую информацию компаний. При наборе сотрудников это может привести к тому, что кандидатам определенной этнической принадлежности будут предложены зарплаты ниже среднего уровня; при проверке юридических контрактов вероятность ошибки в оценке условий новых отраслей может достигать половины. Кроме того, хакеры могут встраивать определенные звуковые частоты, что может привести к неправильной интерпретации диапазона предложений противника в переговорах.

Эти вызовы подчеркивают серьезную реальность: чем умнее система, тем шире ее поверхность атаки.

В области Web3 безопасность всегда была предметом пристального внимания. На основе предложенной В-шефом концепции невозможного треугольника (блокчейн-сеть не может одновременно обеспечить безопасность, децентрализацию и масштабируемость) возникло множество способов шифрования:

1. Модель нулевого доверия: основная идея заключается в том, что "никому нельзя доверять, всегда необходимо проверять", подчеркивая необходимость строгой проверки и авторизации каждого запроса на доступ.

2. Децентрализованная идентификация (DID): набор стандартов идентификаторов, позволяющий сущностям получать идентификацию в проверяемом и устойчивом формате без необходимости в централизованном реестре.

3. Полностью однородное шифрование (FHE): позволяет выполнять произвольные вычисления над зашифрованными данными без их расшифровки, подходит для таких сценариев, как облачные вычисления и аутсорсинг данных.

В частности, полностью гомоморфное шифрование считается мощным инструментом для решения проблем безопасности в эпоху ИИ. Оно может играть роль на нескольких уровнях:

1. Данные на уровне: вся информация, введенная пользователем (включая биометрические данные, голосовые интонации), обрабатывается в зашифрованном состоянии, даже сама система ИИ не может расшифровать исходные данные.

2. Алгоритмический уровень: реализация "обучения модели с шифрованием" с помощью FHE, даже разработчики не могут заглянуть в путь принятия решений ИИ.

3. Координационный уровень: коммуникация между несколькими агентами осуществляется с использованием порогового шифрования, и компрометация одного узла не приведет к утечке глобальных данных.

В области безопасности Web3 некоторые проекты уже начали исследовать эти технологии:

• uPort был выпущен в 2017 году на основной сети Ethereum и является одним из первых децентрализованных идентификационных проектов.
• NKN запустила свою основную сеть в 2019 году, сосредоточившись на применении модели нулевого доверия.
• Mind Network является первым проектом FHE, запущенным в основной сети, и сотрудничает с несколькими известными учреждениями.

Несмотря на то, что эти безопасные проекты могут быть не так заметны, как некоторые спекулятивные проекты, они имеют решающее значение для построения безопасной экосистемы Web3.

С развитием технологий ИИ, приближающихся к уровню человеческого интеллекта, нетрадиционные системы защиты становятся все более важными. Технологии, такие как FHE, не только решают текущие проблемы безопасности, но и закладывают основу для будущей эпохи сильного ИИ. На пути к AGI эти технологии безопасности больше не являются опциональными, а становятся необходимостью для выживания.