Все понимают, что самой большой преградой для внедрения больших AI-моделей в вертикальные приложения, такие как финансы, медицина и право, является проблема "иллюзий" в выходных данных AI, которая не соответствует требованиям точности реальных приложений. Как это решить? Недавно @Mira_Network запустила публичную тестовую сеть и предложила решение, давайте я расскажу, в чем дело:
Во-первых, у инструментов больших моделей ИИ существует ситуация «галлюцинации», которую все могут заметить, и на это есть две основные причины:
Данные для обучения AI LLMs недостаточно полные, несмотря на то, что объем данных уже очень большой, они все равно не могут охватить информацию из некоторых нишевых или специализированных областей, в этом случае AI склонен к "творческому дополнению", что приводит к некоторым ошибкам в реальном времени;
Работа LLM в области ИИ в основном опирается на «вероятностную выборку», которая заключается в выявлении статистических закономерностей и корреляций в обучающих данных, а не в реальном «понимании», поэтому случайность вероятностной выборки и несогласованность результатов обучения и вывода приведут к систематической ошибке при обработке ИИ высокоточных фактических задач;
Как решить эту проблему? На платформе ArXiv Корнеллского университета была опубликована статья, в которой представлен метод повышения надежности результатов LLM с помощью совместной проверки нескольких моделей.
Простое понимание заключается в том, что сначала основной модель генерирует результат, затем интегрируются несколько моделей проверки для проведения «анализов большинства голосов» по данной проблеме, что позволяет снизить «галлюцинации», возникающие у модели.
В результате серии тестов было установлено, что этот метод может повысить точность вывода ИИ до 95,6%.
В этом случае распределенная платформа верификации определенно нужна для управления и верификации процесса совместного взаимодействия между мастер-моделью и моделью верификации, и Mira Network является такой сетью промежуточного программного обеспечения, которая специализируется на построении верификации ИИ LLM, построении надежного верификационного слоя между пользователями и базовой моделью ИИ.
Благодаря существованию этой сети уровня верификации могут быть реализованы интеграционные сервисы, включая защиту конфиденциальности, обеспечение точности, масштабируемый дизайн, стандартизированные интерфейсы API и другие интегрированные сервисы, а возможность приземления ИИ в различных разделенных сценариях приложений может быть расширена за счет уменьшения иллюзии выхода LLM ИИ, что также практикуется при реализации проектов ИИ LLM сетью распределенной верификации Crypto.
Например, Mira Network поделилась несколькими примерами из финансовой, образовательной и блокчейн-экосистемы, которые можно подтвердить:
После интеграции Mira в торговую платформу Gigabrain система может добавить дополнительный уровень проверки точности анализа рынка и прогнозов, отфильтровывая ненадежные советы, что может повысить точность сигналов AI для торговли, делая применение AI LLMs в DeFi-сценариях более надежным.
2）Learnrite использует mira для проверки стандартных экзаменационных вопросов, сгенерированных ИИ, что позволяет образовательным учреждениям в массовом порядке использовать контент, созданный ИИ, при этом не влияя на точность содержания образовательных тестов, чтобы поддерживать строгие образовательные стандарты;
3）Проект блокчейн Kernel использует механизм согласования LLM от Mira, интегрируя его в экосистему BNB, создавая децентрализованную сеть валидации DVN, что обеспечивает определенный уровень точности и безопасности выполнения AI вычислений на блокчейне.
Выше.
На самом деле Mira Network предоставляет услуги сетевого консенсуса для промежуточного ПО, и это определенно не единственный способ усилить возможности AI-приложений. На самом деле, существуют альтернативные пути, такие как усиление через обучение на данных, взаимодействие через мультимодальные большие модели, а также усиление вычислений с учетом конфиденциальности с помощью потенциальных криптографических технологий, таких как ZKP, FHE, TEE и т.д. Однако, по сравнению с этим, решение от Mira ценится за быструю практическую реализацию и прямые результаты.
Посмотреть Оригинал
Содержание носит исключительно справочный характер и не является предложением или офертой. Консультации по инвестициям, налогообложению или юридическим вопросам не предоставляются. Более подробную информацию о рисках см. в разделе «Дисклеймер».
Сможет ли сеть Mira решить проблему «галлюцинаций» больших AI моделей?
Автор: Haotian
Все понимают, что самой большой преградой для внедрения больших AI-моделей в вертикальные приложения, такие как финансы, медицина и право, является проблема "иллюзий" в выходных данных AI, которая не соответствует требованиям точности реальных приложений. Как это решить? Недавно @Mira_Network запустила публичную тестовую сеть и предложила решение, давайте я расскажу, в чем дело:
Во-первых, у инструментов больших моделей ИИ существует ситуация «галлюцинации», которую все могут заметить, и на это есть две основные причины:
Данные для обучения AI LLMs недостаточно полные, несмотря на то, что объем данных уже очень большой, они все равно не могут охватить информацию из некоторых нишевых или специализированных областей, в этом случае AI склонен к "творческому дополнению", что приводит к некоторым ошибкам в реальном времени;
Работа LLM в области ИИ в основном опирается на «вероятностную выборку», которая заключается в выявлении статистических закономерностей и корреляций в обучающих данных, а не в реальном «понимании», поэтому случайность вероятностной выборки и несогласованность результатов обучения и вывода приведут к систематической ошибке при обработке ИИ высокоточных фактических задач;
Как решить эту проблему? На платформе ArXiv Корнеллского университета была опубликована статья, в которой представлен метод повышения надежности результатов LLM с помощью совместной проверки нескольких моделей.
Простое понимание заключается в том, что сначала основной модель генерирует результат, затем интегрируются несколько моделей проверки для проведения «анализов большинства голосов» по данной проблеме, что позволяет снизить «галлюцинации», возникающие у модели.
В результате серии тестов было установлено, что этот метод может повысить точность вывода ИИ до 95,6%.
В этом случае распределенная платформа верификации определенно нужна для управления и верификации процесса совместного взаимодействия между мастер-моделью и моделью верификации, и Mira Network является такой сетью промежуточного программного обеспечения, которая специализируется на построении верификации ИИ LLM, построении надежного верификационного слоя между пользователями и базовой моделью ИИ.
Благодаря существованию этой сети уровня верификации могут быть реализованы интеграционные сервисы, включая защиту конфиденциальности, обеспечение точности, масштабируемый дизайн, стандартизированные интерфейсы API и другие интегрированные сервисы, а возможность приземления ИИ в различных разделенных сценариях приложений может быть расширена за счет уменьшения иллюзии выхода LLM ИИ, что также практикуется при реализации проектов ИИ LLM сетью распределенной верификации Crypto.
Например, Mira Network поделилась несколькими примерами из финансовой, образовательной и блокчейн-экосистемы, которые можно подтвердить:
2）Learnrite использует mira для проверки стандартных экзаменационных вопросов, сгенерированных ИИ, что позволяет образовательным учреждениям в массовом порядке использовать контент, созданный ИИ, при этом не влияя на точность содержания образовательных тестов, чтобы поддерживать строгие образовательные стандарты;
3）Проект блокчейн Kernel использует механизм согласования LLM от Mira, интегрируя его в экосистему BNB, создавая децентрализованную сеть валидации DVN, что обеспечивает определенный уровень точности и безопасности выполнения AI вычислений на блокчейне.
Выше.
На самом деле Mira Network предоставляет услуги сетевого консенсуса для промежуточного ПО, и это определенно не единственный способ усилить возможности AI-приложений. На самом деле, существуют альтернативные пути, такие как усиление через обучение на данных, взаимодействие через мультимодальные большие модели, а также усиление вычислений с учетом конфиденциальности с помощью потенциальных криптографических технологий, таких как ZKP, FHE, TEE и т.д. Однако, по сравнению с этим, решение от Mira ценится за быструю практическую реализацию и прямые результаты.