Підвищення довіри до ШІ: будівництво довірчого рівня ШІ в мережі Mira

Нещодавно офіційно запустили публічну тестову мережу Mira, яка має на меті створення довірчого рівня для ШІ. Це викликало роздуми про надійність ШІ: чому ШІ потрібно довіряти? Яким чином Mira вирішує цю проблему?

Коли йдеться про ШІ, люди зазвичай більше зосереджуються на його потужних можливостях, ігноруючи проблеми "ілюзій" або упереджень, які існують у ШІ. "Ілюзії" ШІ означають, що іноді ШІ "вигадує" здавалося б розумні, але насправді неточні дані. Наприклад, коли його запитують, чому місяць рожевий, ШІ може дати ряд відповідей, які звучать розумно, але насправді є вигаданими.

Виникнення "ілюзій" або упереджень у ШІ пов'язане з деякими поточними технологічними шляхами ШІ. Генеративний ШІ досягає зв'язності та раціональності, прогнозуючи "найімовірніший" контент, але іноді не може перевірити справжність. Крім того, навчальні дані можуть містити помилки, упередження або навіть вигадані матеріали, що також вплине на вихідні дані ШІ. Коротко кажучи, ШІ вчиться мовним шаблонам людства, а не самим фактам.

Поточний механізм генерації ймовірностей та дані, що керують моделями, майже неминуче призводять до можливості виникнення ілюзій штучного інтелекту. Хоча в загальних знаннях або розважальному контенті такі упереджені або ілюзорні результати тимчасово не матимуть прямих наслідків, у медичних, юридичних, авіаційних, фінансових та інших суворо регульованих сферах це може мати значний вплив. Тому вирішення проблем ілюзій та упереджень штучного інтелекту стає однією з ключових проблем у процесі розвитку штучного інтелекту.

Проект Mira намагається вирішити цю проблему, створюючи шар довіри для ШІ, зменшуючи упередженість і ілюзії ШІ, підвищуючи надійність ШІ. Основна ідея Mira полягає в перевірці виходу ШІ через консенсус кількох моделей ШІ. Це мережа верифікації, яка використовує консенсус кількох моделей ШІ та децентралізований консенсус для перевірки надійності виходу ШІ.

Ключем мережі Mira є децентралізоване колективне підтвердження. Воно поєднує переваги криптоіндустрії та методи співпраці з багатьма моделями, зменшуючи упередження та ілюзії через колективну модель підтвердження. У плані архітектури підтвердження протокол Mira підтримує перетворення складного контенту на незалежні підтверджувальні заяви. Оператори вузлів беруть участь у підтвердженні цих заяв, забезпечуючи чесність операторів вузлів через економічні стимули та механізми покарання.

Мережна архітектура Mira включає перетворення контенту, розподілену верифікацію та механізм консенсусу. Перетворення контенту є важливою складовою частиною, мережа Mira розбиває кандидатний контент на різні підтверджувані заяви та розподіляє їх між вузлами для верифікації. Для захисту конфіденційності клієнтів заяви будуть розподілені між різними вузлами випадковими фрагментами.

Оператори вузлів відповідають за запуск моделей верифікації, обробку заявок та подання результатів верифікації. Вони беруть участь у верифікації, щоб отримати прибуток, який походить від створеної для клієнтів вартості. Мета мережі Mira полягає у зниженні рівня помилок ШІ, особливо в таких сферах, як медицина, право, авіація, фінанси, що створить величезну цінність.

В цілому, Mira пропонує новий підхід до забезпечення надійності ШІ. Вона будує децентралізовану мережу верифікації консенсусу на основі численних моделей ШІ, що забезпечує вищу надійність для ШІ-послуг клієнтів, зменшує упередження та ілюзії ШІ, задовольняючи потреби клієнтів у більшій точності та точності. Mira намагається побудувати рівень довіри до ШІ, що сприятиме поглибленому розвитку застосувань ШІ.

Наразі Mira співпрацює з кількома фреймворками AI agent. Користувачі можуть взяти участь у публічній тестовій мережі Mira через Klok (чат-додаток на базі LLM Mira), отримати перевірені виходи AI та мати можливість заробити бали Mira.