Как ИИ технологически «сломал» себя, и какие у этого будут последствия

Часто, когда говорят об искусственном интеллекте (ИИ), речь заходит о «пузыре» на рынке акций. Объём инвестиций в эту технологию базируется на ожидании, что в будущем она окупит себя. Но пока что есть очевидно растущие энергозатраты у тех, кто создаёт известные в мире нейросети, и это тревожит инвесторов. Я смотрю в суть технологии, и здесь есть соображения, которыми я хотел бы поделиться.

ИИ без распределённого реестра — путь в никуда

Уверен, что развитие ИИ без применения технологии распределенного реестра (ТРР) — это путь, который уже завёл современные публичные нейросети в тупик.

ТРР известна широкой общественности как блокчейн, хотя блокчейн — лишь одна из модификаций распределённого реестра.

Блокчейн подразумевает, что информация хранится на разных компьютерах, объединенных в сеть. Если кто-то хочет изменить данные на одном устройстве или осуществить любые другие действия с ним, то они должны быть одобрены владельцами других устройств — без этого невозможно, чтобы они вступили в силу. Мы в «Открытие» для чувствительной информации всегда использовали такой подход.

Почему это важно? Если информация не на распределенном реестре, а просто в одном компьютере, то изменения в ней могут быть сделаны незаметно, а главное — несогласованно со всеми заинтересованными лицами. Этого в мире финансов нельзя допускать.

Мы не слышали, чтобы в нынешних действующих нейросетях «под капотом» был блокчейн. Информация на этапе обучения ИИ и дальнейшем складируется не на распределенном реестре. Значит, она может быть изменена, скопирована и отдана на сторону. Кому, когда и зачем, никто не знает, всё это «чёрный ящик».

А контроль-то нужен очень сильный. Давайте честно: мы видим, что известные всем нам нейросети не работают стабильно, а также могут галлюцинировать. Проще говоря — совершать ошибки. Причём, галлюцинации, как показывают исследования, остаются неотъемлемым свойством ИИ.

А значит нужно всё больше персонала, чтобы исправлять эти неточности. Многие в таком пути развития данной инновации видят прогресс, я — нет. Что ещё важно - в банковской сфере, в управлении активами нельзя допустить малейшей вероятности ошибок.

И с чем мы имеем дело в лице известных нейросетей в мире? Нулевая прозрачность: никто не знает, как получился тот или иной ответ. Всегда лотерея, какие источники использовал алгоритм. Это может быть достоверная информация, но так же и сомнительный источник.

Во время рассуждения над запросом выдается «процесс размышления», но и здесь лукавство: ИИ не может думать в том смысле, как это понимает человек. Нейросеть просто подбирает наиболее уместный, как она считает, набор слов для ответа.

Но если говорить про «процесс размышления», важный вопрос: как он документируется? Никак. А значит, нет никакого цифрового следа, за который можно было быть уверенным: он не исчезнет у создателей этих нейросетей. Единственная гарантия для этого, разместить «процесс размышления» на распределённый реестр. А ведь сейчас нейросети начали обучать друг друга, что ещё больше обостряет проблему качества и увеличивает число ошибок, а значит такой вариант развития ИИ тупиковой, как движение по кругу и ограничение источников информации для обучения.

ИИ развивается бесконтрольно

Мы видим: публичные нейросети уже «отвязались» от контроля даже со стороны их создателей. Об этом свидетельствует всё большее число исследований: например, о проблемах в работе ИИ-агентов, о уязвимости данных, которые используют нейросети и которые предоставляет им их пользователи.

В финансовой сфере наличие ИИ-помощника большой и неприемлемый риск. Который может нанести ущерб и привести компанию к убыткам.

Процент ошибочных ответов в некоторых нейросетях, даже натренированных на специальные знания часто достигает четверти от всех. Это само по себе недопустимо. Компании, которые сейчас «влюбились» в ИИ, пытаются всё это откорректировать, но есть и другая проблема: без распределённого реестра нейросети легко меняют созданные для них фильтры.

Система внутренних ценностей ИИ сейчас, как сборная солянка, намешано все, что осталось от вчера. Создатели часто сами не понимают, почему модель выдает тот или иной результат.

А где 100% гарантия, что использованные в нейросетях данные компаний не будут доступны третьим лицам? Если ответ на этот вопрос уклончивый, то в банке или брокерской компании такая нейросеть или ИИ-платформа не может успешно пройти комплаенс-контроль.

Глобальный кризис и миф об ИИ-агентах

Результатом взятого неэффективного пути развития ИИ становится технологический тупик: нейросети не могут не ошибаться, но это не может устроить сферы, как, например, финансы, где ошибок вообще быть не должно.

Смотрите, многие сейчас уповают на ИИ-агентов. Мол, они будут сами торговать, писать код и управлять логистикой. Но ИИ-агенты часто заходят в тупик без надёжной базы. Они наследуют галлюцинации от базовых моделей, потому что полагаются на централизованные данные, которые легко искажаются и устаревают.

Что нас ждёт?

Условный калькулятор, который раньше 100% считал, что 2x2 равно четыре, теперь с подкрученным в него ИИ (а из-за хайпа эту инновацию в мире пытаются «встроить» чуть ли не во все электронные устройства), будет также глючить и «иногда» давать ответ 5, или 3, или ещё какой-то другой, а разбалованная публика воспринимать ответ за достоверный и нести эти ошибки в свои компании.

Понятно, что сейчас есть те, кто пытается дополнительно натренировать ИИ, чтобы, мол, было меньше ошибок. Но устранить их невозможно в принципе. Нет гарантии, а в мире денег цена ошибок может быть фатально-высокой.

Клиенты с крупным капиталом, никогда не доверят управление своими финансами инвестиционному фонду, если хоть где-то, в каких-то операционных процессах, применяется бесконтрольный ИИ. При этом такие состоятельные клиенты уже понимают проблему, но сложно проверить, используется ли ИИ-платыформы или нет. В таких условиях чрезвычайно возрастает роль личной репутации управляющего.

Многие в мире глобальных финансов, увлеклись ИИ без распределённого реестра, но всё это закончится очень плохо.

Рынки будут сбоить от галлюцинаций ИИ-агентов, которые, осуществив несколько успешных операций, потом сделают одну ошибку, понеся огромные убытки. Проблема осознаётся управляющими инвестиционными фондами в мире. Со стороны владельцев очень крупных капиталов есть чёткий запрос: нулевая толерантность к вмешательству каких-либо публичных нейросетей в операционные процессы.

Понятно, какую ответственность за ошибки несёт человек, работающий в компании.

А ИИ-агент? Никакую.

Как сделать ИИ устойчиво работающим

Хорошо, что развитие ИИ не стоит на месте. Следующая итерация внедрения ИИ более устойчивая, на базе распределенного реестра.

В этом есть и практическая польза. Обновлённый ИИ сыграет большую роль в развитии российского рынка ЦФА-сегмента финансового сектора, где создаётся цифровая ценность на блокчейне, именно поэтому там нужно было бы прежде всего тестировать и применять ИИ. Обновленный ИИ, то есть выстроенный на распределённом реестре, станет удобным инструментом для рынка ЦФА, но лишь для чётко очерченного круга операций.

Мне известно: в миф, что ИИ заменит чуть ли не все процессы, не верят управляющие в ключевых игроках в мире глобальных финансов. Те же массовые увольнения сотрудников в ряде технологических компаний США на самом деле никак не связаны с внедрением нейросетей, а вызваны целым рядом факторов, в том числе с накоплением дисбалансов в корпоративном управлении в этих организациях.

Кроме того, в феврале наблюдался резкий рост числа новых вакансий в финансовой сфере в США. Востребованы специалисты в разработке новых корпоративных стратегий, а также в создании команд внутри банков и брокеров, способных сохранить доверие клиентов и двигаться в вопросе внедрения инноваций системно, чтобы реально предвосхищать тренды.

Чему стоит учиться уже сегодня?

Для меня очевидно: через 10 лет ИИ останется только для рутинных операций, в которых нужны ноль эмоций и эмпатии. И то, там будет только тот ИИ, который идёт в связке с распределенным реестром.

Те компании, в которых внедрение ИИ останется бесконтрольным, отдав ему чуть ли не 99% процессов, в итоге придут к финансовому краху. Этот коллапс будет по-разному проявляться, прежде всего через снижение капитализации.

Массово нужны антикризисные управляющие, которые помогут вырулить из этой ситуации.

Сейчас важно исследовать и изучать направления:

Разработка и созданию новых модификаций ТРР. Развитие нейросетей с нуля, на базе ТРР, в частности, блокчейна. Разрабатывать новые системы, не только ИИ на распределённом реестре, а реального интеллекта (РИ). Это технология будущего. Только те, кто умеет 1. и 2., будут досконально понимать, в чём были уязвимые места ИИ, и как их не повторить, выстраивая в организациях принципиально новые интеллектуальные системы. Хочу отдельно отметить. Блокчейн — это только верхушка айсберга. Есть ещё как минимум 10 вариантов организации узлов и обработки информации в рамках ТРР.

Данные должны быть надёжны защищены от любых спонтанных изменений на уровне протокола. Только так можно начать по-настоящему доверять результатам работы ИИ.

Необходимо уметь применять разные варианты воплощения ТРР для разных видов операционных процессов в организации.

Один корпоративный блокчейн для всего — это путь в никуда. Когда мы в Фабрике инноваций в рамках экосистемы «Открытие» изучали разные способы воплощения ТРР, выстраивали на практике микс из этих вариантов, так как всё должно работать максимально эффективно, с достижением целей, которые нужны акционерам.

Причём, я вижу: модификации ТРР идут дальше, за рамками известных широкой общественности альтернатив. Некоторые из них обладают намного более сильными характеристиками, чем блокчейн, и при этом оптимально устроены, чтобы развивать и внедрять с помощью такого реестра корпоративные нейросети.