Доверяй, но проверяй: ИИ меняет мышление человека

Искусственный интеллект существенно влияет на способность людей адекватно оценивать свои возможности и результат работы. Об этом говорится в новом исследовании.

 Научный труд под названием «Влияние генеративного ИИ на критическое мышление: самоотчеты о снижении когнитивных усилий и эффектах уверенности в себе на основе опроса работников умственного труда» написала группа исследователей из Microsoft Research и Университета Карнеги-Меллона в США.

 В опросе приняли участие 319 человек, которые используют инструменты генеративного ИИ не реже одного раза в неделю в своей работе. Задачей экспертов было выяснить, когда и как испытуемые задействуют критическое мышление при использовании генеративного ИИ, а также когда и почему генеративный ИИ влияет на их усилия по его использованию.

 По мнению исследователей, ИИ подрывает критическое мышление, кардинально меняя подход специалистов к решению определённых бизнес-задач, в частности, в следующих трёх областях:

Сбор и проверка информации: ИИ автоматизирует поиск и систематизацию данных, сокращая время, необходимое для поиска информации. Однако теперь сотрудникам приходится тратить больше времени на проверку точности и надёжности контента, созданного ИИ.

Решение проблем и интеграция ИИ-ответов: вместо того, чтобы решать проблемы самостоятельно, сотрудники сосредотачиваются на доработке и адаптации результатов работы ИИ для удовлетворения своих конкретных потребностей, включая корректировку тональности, контекста и релевантности.

Выполнение задач и управление задачами: вместо непосредственного выполнения задач сотрудники контролируют работу ИИ, направляя и оценивая результаты для обеспечения качества. В то время как ИИ выполняет рутинную работу, ответственность и подотчётность остаются за пользователями-людьми.

 «Мы обнаружили, что работники умственного труда часто воздерживаются от критического подхода, когда им не хватает навыков для проверки, улучшения и управления ответами, сгенерированными ИИ»,
— говорится в отчёте.

Новый мир генеративного ИИ

 Генеративный ИИ — это не просто поисковик. Он синтезирует информацию с нуля. Например, вы задаете вопрос чат-боту. Он выдает ответ за секунды и такой подход отличается от Google. Поисковики находят готовые данные в интернете, а ИИ создает текст самостоятельно. Это удобно, но вызывает сложности. Пользователи получают убедительные ответы быстро, однако точность не всегда идеальна.

 В 2023 году MIT (Массачусетский технологический институт)провел исследование. Оно показало: 60% людей не различают тексты ИИ и человека. Это впечатляет и пугает одновременно. Генеративные модели вроде GPT-4 или Grok умны. Они используют миллиарды параметров для работы. Но ошибки случаются часто. Например, ИИ может выдумать факты. Пользователям нужно проверять данные тщательно. Иначе риск дезинформации растет.

Знания: от книг к алгоритмам

Раньше знания приходили из надежных источников — люди читали книги и научные журналы. Эксперты годами проверяли информацию. Этот процесс был медленным, но точным. Теперь все изменилось кардинально: генеративный ИИ пишет статьи за минуты и человек создает контент легко. Границы между правдой и вымыслом размываются.

 Например, в 2022 году ИИ сгенерировал научный текст. Его опубликовали в журнале случайно, редакторы не заметили подвоха. Такие случаи множатся быстро. Исследование 2024 года от Stanford показало: 30% онлайн-контента связано с ИИ. Это меняет сети знаний полностью, уходят старые ориентиры. Доверять становится сложнее.

 Социальные сети усиливают проблему. Пользователи делятся постами от ИИ. Они выглядят правдоподобно и ярко, но часто это просто шум. Например, Twitter (сейчас сеть Х) в 2023 году заполонили сгенерированные твиты. Люди слепо им верили. Так рождаются мифы и слухи. Традиционные фильтры знаний исчезают.

Критическое мышление под угрозой

 Генеративный ИИ упрощает жизнь каждому. Он отвечает на вопросы мгновенно, но есть обратная сторона медали. Люди начинают лениться думать. Исследование 2024 года это доказывает: ученые опросили 500 студентов в США. Результат удивил: 45% не проверяют данные ИИ и принимают ответы за чистую монету.

Почему так происходит? Ответы ИИ звучат уверенно, они гладкие и логичные на вид. Например, Grok может объяснить квантовую физику просто. Но детали иногда неточны. Человек без подготовки не заметит ошибку — это расслабляет мозг незаметно. Скептицизм уходит на второй план.

Образование тоже сильно страдает. Учителя жалуются на студентов. Молодежь копирует тексты ИИ в задания. В 2023 году 20% эссе в колледжах написали машины, сообщает журнал Nature. Студенты теряют навыки анализа и перестают искать первоисточники. Зависимость от технологий растет.

Человек и машина: партнерство или риск?

 ИИ — это не только угроза. Он открывает новые горизонты: компании вроде xAI доказывают это. Их модели помогают ученым и инженерам: в 2022 году ИИ сгенерировал 20% идей в проектах, и это заметно ускорило исследования. Творческие задачи тоже выигрывают. Художники используют DALL-E для эскизов. Писатели дают задания чат-ботам.

 Но дело в том, что грань между помощью и зависимостью тонка. Люди начинают полагаться на ИИ как на энциклопедию и кладезь лучших вариантов для решения задач в любых сферах. Например, маркетологи генерируют рекламу целиком. Они не проверяют качество текста, что экономит время, но снижает контроль. Машина становится ведущей силой. Человек превращается в наблюдателя.

Адаптация — ключ к будущему

ИИ меняет мир, он уже часть нашей жизни. Поэтому важно не игнорировать критическое мышление. Необходимо задавать вопросы машинам и себе,  сомневаться в гладких ответах. Ученые считают, что образование нуждается в переменах. Учителя должны учить анализу данных. Студентов надо готовить к миру ИИ. Например, курсы по фактчекингу популярны в Европе. В 2023 году их прошли 15% старшеклассников. Необходимо укреплять навыки скептицизма.

Что делать дальше?

Генеративный ИИ — это вызов и шанс. Он перестраивает мышление и знания.  Нужны новые механизмы проверки. Компании должны обучать работников анализу. Иначе ошибки станут системными.

 Исследователи подчеркивают: ИИ полезный, но коварный. Он ускоряет процессы и фильтрует знания. Однако без контроля человек теряет навыки. Необходимо добавить спорные моменты в процессы и  использовать  ИИ с разными взглядами. Пусть эксперты оспаривают выводы. Это сохранит динамику знаний. Будущее зависит от баланса. Кто знает, что может произойти, если человечество полностью отдаст право делать выводы машинам?

ΛENTA CYPRUS — новости Кипра на русском — всегда в курсе событий