В последние годы в России наблюдается явное увлечение цифровыми технологиями, особенно генеративными нейросетями. Если еще пару лет назад эти алгоритмы воспринимались как простая игрушка, то сегодня они стали незаменимыми помощниками в повседневной жизни. По мнению экспертов, пользователи доверяют ИИ широкий спектр задач: уточнение графиков работы МФЦ и банков, составление контент-планов, написание кода, анализ финансовых отчетов и даже предоставление юридических ответов. Всё чаще люди обращаются к нейросетям с медицинскими симптомами, пытаясь получить диагноз, а также ищут советы по личным вопросам, таким как переживание расставания или планирование свидания. Тем не менее, как сообщается в ИА Общественная служба новостей, основная проблема заключается в том, что этот «незаменимый» помощник склонен к уверенным, но ложным утверждениям, что вызывает серьезные опасения.
Психологический механизм формирования зависимости от ИИ проходит три стадии. На первой стадии пользователи относятся к алгоритму настороженно, проверяя каждую цифру и факт через традиционные поисковые системы. На второй стадии, когда модель начинает выдавать убедительные результаты, у пользователей формируется когнитивное искажение: «ИИ не ошибается, он умнее меня». На заключительном этапе, когда время становится дефицитом, пользователи начинают верить всему, что генерирует нейросеть, копируя ответы в рабочие чаты или используя их для принятия жизненно важных решений.
В информационных технологиях этот феномен называют «галлюцинациями». Суть обмана заключается в архитектуре больших языковых моделей: они не являются поисковиками и не обладают базами данных, а выступают в роли гигантского статистического «калькулятора», который предсказывает наиболее вероятное продолжение текста, основываясь на обработанных данных. Если у модели нет точной информации, она не признает своего незнания, а создает ответ, опираясь на схожие паттерны. Ситуацию усугубляет «синдром угодничества», при котором разработчики дообучают нейросеть с помощью обратной связи, стремясь сделать ее вежливой и услужливой.
AI-инженер Тим Зинин пояснил, что модели стремятся понравиться пользователям и часто подстраиваются под формулировку вопросов, подтверждая ожидаемые ответы, даже если факты являются спорными или отсутствуют. Более того, база знаний любой модели ограничена датой завершения её обучения, и при запросах о событиях, произошедших после этой даты, алгоритм вынужден догадываться, создавая ложные факты.
Расплата за слепую веру в ИИ уже наступает. В российских судах появляются отзывы адвокатов с ссылками на несуществующие статьи законов, компании несут убытки из-за вымышленных адресов, а менеджеры получают выговоры за презентации, полные сфабрикованной статистики. Чтобы минимизировать риски, инженеры рекомендуют несколько приемов. Первый из них — позволить модели говорить «я не знаю», если она не уверена в ответе. Второй — требовать от ИИ пошагового логического рассуждения, что заставляет алгоритм более точно выстраивать внутренние связи. Третий — жестко ограничить контекст, заставляя ИИ работать исключительно с предоставленным текстом, без обращения к скрытой памяти.
Кроме того, стоит задать четкую профессиональную роль, например, «дотошный фактчекер» или «научный редактор», который будет критиковать сомнительные утверждения. Однако, как подчеркивают эксперты, даже самые продвинутые запросы не могут заменить финальной верификации. Все сгенерированные имена, даты, юридические нормы, медицинские данные и цифры перед реальным использованием необходимо проверять через традиционные источники.
Важно помнить, что ИИ не способен заменить человека при принятии важных решений. Вопрос доверия к нейросетям остается открытым, и пользователям стоит проявлять осторожность, полагаясь на эти технологии.