Сьюзи, 63 года. Только что вышла на пенсию. Смотрит в глаза системе социального обеспечения (Social Security). Она хочет минимизировать налоги.
Она открывает чат-бот. Вводит свои данные. Получает ответ, который звучит невероятно уверенно.
«Заявляйте сейчас. Конвертируйте это. Вот обоснование.»
Всё выглядит правильно. Бот даже показывает «черновик» рассуждений. Поэтому Сьюзи нажимает «Отправить» и игнорирует совет финансового планировщика. Возможно, всё было бы в порядке. Скорее всего, нет. Бот пропустил тот факт, что её супруг молод, но болен, что полностью меняет математическую модель. Он проигнорировал то, что план конверсии увеличит её страховые взносы на Medicare через два года.
Сьюзи может никогда не узнать об ошибке. А ИИ? Он не перезвонит.
Она не одинока. Люди вливают свои деньги в такие боты. Согласно исследованию Pew Research Center за 2024 год, 34% взрослых жителей США использовали ChatGPT. Среди тех, кому меньше 30 лет? Эта цифра достигает 58%.
И некоторые из них теряют деньги. Опрос Pearl.com за 2025 год, охвативший 2000 взрослых американцев, показал, что 19% потеряли более 10 долларов, следуя финансовым советам ИИ. Инвесторы поколения Z теряли деньги в 27% случаев.
Это не гипотетические риски.
«Уверенность не равно компетентность.»
Люди уже платят цену. Как профессор финансов, меня пугает именно этот сценарий неудачи больше всего остального. Мы спорим об ИИ некорректно.
Два грани слепого доверия
Обычно жалобы на ИИ делят на два лагеря.
Одна группа слишком сильно доверяет алгоритму. Исследователи называют это «алгоритмической симпатией». Вы относитесь к боту как к оракулу. Другая группа доверяет ему слишком мало. «Алгоритмическая неприязнь». Они игнорируют полезные инструменты из-за цинизма.
Я считаю, что это ложная дихотомия. Оба поведения проистекают из одного вопроса: можете ли вы определить, когда он лжет?
Если ИИ ошибается громко, вы это замечаете. Он выдаёт бессмыслицу. Вы теряете доверие. Звоните человеку. Это безопасный сбой.
Опасность кроется в тихом сбое. Ответ гладкий. Уверенный. Безупречно сформулированный. Но неверный. Вы не можете его отследить. Поэтому вы продолжаете самостоятельно управлять своей жизнью, пока она вокруг вас выгорает.
В вопросах денег этот тихий сбой — норма по умолчанию.
Беглость речи скрывает ошибки
Финансовые советы опасны по трём причинам.
Во-первых, беглость речи воспринимается как точность. Если бот говорит чёткими предложениями, ваш мозг предполагает, что он понимает контекст. На самом деле, нет. Бот может идеально объяснить Roth IRA (индивидуальный счёт с налоговыми льготами), но упустить тот факт, что медицинские счета вашего супруга полностью меняют вашу налоговую категорию. Он никогда не задаёт правильных вопросов, потому что не знает, что они существуют.
Во-вторых, ИИ становится самым глупым в самые важные моменты. Эти инструменты отлично справляются с механическим запоминанием. Что такое облигация? Как работает сложный процент? Легко.
Однако финансовая жизнь определяется редкими и сложными событиями.
- Exercise (исполнение) опционов на акции
- Ловушки альтернативного минимального налога
- Стратегии социального обеспечения для пар
- Урегулирование дел при разводе
Фондовые обвалы редки. Следовательно, у ИИ мало данных для обучения. В результате он проявляет наибольшую уверенность там, где он наиболее невежествен. Мы видели это на Уолл-стрит много лет назад. Теперь трейдеры предупреждают, что ИИ-боты создают новые системные риски, потому что они оптимизированы для нормы и паникуют при аномалиях. То же самое применимо к вашему 401(k). Исследователи называют это «неровным фронтом» компетентности. Надёжно для рутины. Бесполезно для уникальных случаев. А уникальные случаи всегда самые дорогие.
В-третьих, вы не можете сразу проверить работу. В экономике это называется «товаром доверия» (credence good). Как прогноз врача. Вы не узнаете, был ли совет плохим, годами. Налоговая ошибка остаётся незаметной до проверки. Стратегия изъятия средств на пенсии вредит только тогда, когда рынок обваливается позже. Без немедленной обратной связи ошибки накапливаются молча.
Кто терпит больше всего потерь?
В истории Сьюзи настоящей трагедией является не одна крупная ошибка. А отсутствие разговора. Бот дал ей достаточно уверенности, чтобы пропустить звонок эксперту.
Чем гладче инструмент, тем дольше вы остаетесь в опасности.
Кто в зоне риска? Исследование платформы роботизированного консалтинга в Индии, проведённое мной и моим соавтором Вишалем Бхулаем, показало чёткую закономерность. Пользователи были преимущественно молодыми мужчинами и мелкими розничными инвесторами. Они массово регистрировались, когда рынки становились волатильными.
Именно когда неправильный шаг наносит наибольший ущерб, любители тянутся к автоматизации.
Здесь также есть мотивация прибыли. Если платформа зарабатывает деньги на удержании вашего внимания, она вознаграждает уверенность. Уверенность заставляет вас прокручивать ленту. Заставляет кликать.
Система настроена не на спасение вашего финансового будущего. Она настроена на то, чтобы удерживать вас вовлечёнными.
Это противоречие вызывает трения в отрасли. Акции компаний по управлению благосостоянием недавно обвалились после сообщений о том, что ИИ-инструменты для налогов съедят долю человеческих планировщиков. «Расплата за чат-боты», о которой описал Bloomberg, уже началась. Но для конечного пользователя disruption (разрушение) выглядит как медленное кровотечение.
Где провести границу
Всё это не означает, что ИИ — зло. Это отличный бесплатный репетитор. Он может объяснять концепции. Он может черновать электронные письма. Он учит вас словарному запасу, чтобы звучать умнее при разговоре с профессионалом.
Просто не позволяйте ему принимать решения за вас.
Навык заключается в знании границ.
- Используйте его для определений.
- Используйте его, чтобы подготовить вопросы для вашего советника.
- Не используйте его для действий с высокими ставками.
Если решение связано с большими суммами, необратимыми изменениями или сложными налоговыми последствиями, бот, скорее всего, гадает. Планирование наследства. Изъятие средств на пенсии. Структуры бизнеса. Это те самые «неровные пики», где карта пуста.
Возьмите телефон в руки.
Когда ответ кажется слишком идеальным, будьте подозрительны. Гладкость — это индикатор опасности, а не зеленый свет. Эта отполированная уверенность — именно тот момент, когда нужно отойти и найти живого человека.
Потому кто-то должен нести ответственность, когда математика неверна.
