Откуда берётся эта уверенность
Нейросеть выбирает слова по одному, подбирая каждое следующее так, чтобы фраза звучала естественно. Естественность она оценивает хорошо — на это её и учили. Правдивость она не оценивает вовсе: отдельного механизма, который сравнивал бы сказанное с реальностью, у неё нет.
Получается конструкция, где гладкость и верность — две независимые вещи. Там, где модель помнит много, гладкий ответ совпадает с правдой. Там, где помнит мало, он остаётся таким же гладким и перестаёт совпадать. Внешне эти два случая не различить, потому что собираются они одинаково. Подробно механизм разобран в статье про то, почему ИИ не открывает книгу.
Почему это не обман
Обманывает тот, кто знает правду и говорит другое. Здесь ничего похожего не происходит: модель не знает, что ошиблась, и не могла бы тебя предупредить, даже если бы захотела.
Отсюда и странное на первый взгляд поведение. Общеизвестное ИИ излагает точно, а на редком вопросе сочиняет — и с равным спокойствием. Чем уже тема, тем меньше в памяти следов и тем больше достраивания: биография малоизвестного человека, местный закон, статистика по небольшому городу, ссылка на конкретную статью.
Где на этом обычно попадаются
В учёбе. «Почти цитата» и правдоподобная сноска попадают в доклад, и всё хорошо ровно до того момента, когда кто-то решает проверить.
В быту. Инструкция «как починить» звучит уверенно, а в деталях оказывается собранной из похожих случаев. Иногда она просто не работает, иногда ломает сильнее.
В изображениях. Модель рисует похожего человека вместо конкретного и добавляет детали, которых на исходнике не было. Выглядит убедительно, документом не является.
Общий признак один: ответ тебя убеждает. Вопрос, которым стоит себя останавливать, тоже один — чем именно я это проверю.
Что проверять, а что можно не проверять
Проверяй то, что обязано совпадать точно: даты, имена, цитаты, номера законов, названия источников, цифры. Пять минут в учебнике или на официальном сайте закрывают вопрос.
Не трать время на проверку того, что можно сказать разными словами: объяснение темы, ход рассуждения, структуру текста, пересказ идеи. Здесь нейросеть работает хорошо, и перепроверять каждое слово бессмысленно.
Полезная привычка: спрашивать, откуда ИИ это взял. Честный ответ бывает не всегда, но сам вопрос часто заставляет его смягчить формулировку и признать неуверенность — и это уже сигнал.
С изображениями логика та же
Генерация прекрасно справляется с новым: арт, обложка, иллюстрация, короткий ролик. Там, где ничего не обязано совпадать с реальностью, способность выдумывать — достоинство.
Как только требуется конкретное — твоё лицо, твой товар, этот самый кадр, — нужен исходник. Загрузи своё фото и попроси изменить его, а не описывай словами в надежде, что модель угадает. Оживить своё фото или переделать его на FreeBanana RU можно с референсом, и результат ты видишь до того, как он куда-то уйдёт.
Как собирается изображение из шума, разобрано в статье как нейросеть генерирует изображения.
Коротко
Спокойный тон — свойство текста, который собрала модель, а не признак того, что она права. Привычка отделять одно от другого стоит нескольких минут на сверку и избавляет от неловких ситуаций на годы вперёд.
Пора попробовать!
Хватит читать — пора действовать. Загружайте свои фотографии и тестируйте инструменты прямо сейчас. Первые генерации абсолютно бесплатны!