5 вещей, в которых не стоит полагаться на нейросети
Журналисты, как и все пользователи, с восторгом тестируют ChatGPT, GPT-4, Bing AI и прочие нейросетевые системы. Они действительно полезны, но есть некоторые задачи, в которых им пока доверять нельзя.
◆ Русский язык. Качество ответов на русском языке гораздо хуже тех же ответов на английском. Поддержка языков, кажется, производится через частичный перевод — из-за этого страдают любые творческие задания. Не задавайте сочинение стихов, не пытайтесь создать палиндромы или заставлять нейросеть писать в стиле Довлатова — начиная каждое слово в предложении с новой буквы.
◆ Проверка орфографии. Хоть это и часть пункта про русский язык, но совсем отдельная. Вычитка, стилистическая правка, даже расстановка запятых, не говоря уже о разборе слова по составу (https://twitter.com/DskKato/status/1638515791644741632) — это пока не к нейросети, если вы носитель русского языка.
◆ Точные вычисления. GPT-3.5 плохо справлялась даже с некоторыми задачами на проценты. У GPT-4 наблюдается в этом существенный прогресс, но она, например, может утверждать, что некоторое число является простым, когда оно таким не является (https://twitter.com/amzin/status/1638512022668079113). Не всегда хорошо работают и запросы вроде «Который сейчас час в %городе%» — GPT-4 просто на него не ответит, а Bing попытается использовать сторонний источник, и иногда сильно ошибается.
◆ Пересказ источников из интернета. Если только вы не пользуетесь специальными инструментами (установили расширение для браузера или разрешили Bing AI анализировать текст на странице), GPT-4 не может пересказать вам ту или иную статью. Иногда он по словам в адресе веб-странице может выдумать содержимое. Это выглядит так убедительно, что некоторые даже якобы включают доступ в интернет. Иногда иллюзия полная — особенно когда речь о статьях Википедии или источник совпадает с тем, на котором обучали модель.
◆ Создание новостных заголовков. Актуальный новостной язык меняется с большой скоростью. У ньюсмейкеров появляются свои маркеры и клише, возникают понятные читателям сокращения, все это модель, которая застыла в районе довоенного 2021 года, не учитывает. Поэтому в ход идут другие инструменты, например, если попросить сделать заголовок «более привлекательным и кликабельным», в начале появится что-то вроде «Шокирующие данные», а в конце — восклицательный знак. https://t.me/themedia/6088