Что происходит, когда ты просишь стихотворение
Нейросеть собирает ответ по одному слову. Выбрала первое, посмотрела на него и выбрала следующее, которое лучше всего продолжает начатое, и так до конца. Обращения к файлу с текстом при этом не происходит — файла у неё нет.
Есть другое: следы миллионов прочитанных текстов, свёрнутые в набор чисел. Это и называется памятью модели, хотя на человеческую память похоже лишь отчасти. Строчку, которая встречалась ей тысячи раз, нейросеть восстановит точно: слишком сильный след. Строчку, встречавшуюся дважды, достроит по образцу — размер выдержит, рифму подберёт, смысл сохранит приблизительно.
Человек, который пересказывает наизусть
Представь начитанного человека без единой книги под рукой. Спроси у него начало «Евгения Онегина» — прочтёт наизусть. Спроси третью строфу шестой главы — задумается и расскажет своими словами, уверенно и складно, потому что помнит общий ход.
Разница между ним и библиотекой в том, что библиотека знает, чего у неё нет: пустая полка видна. У нейросети пустых полок не бывает. На любой вопрос она соберёт складный ответ, потому что собирать — это всё, что она умеет. И отличить восстановленное от достроенного она не может: делается это одинаково.
Здесь же лежит ответ на вопрос, почему ИИ так уверенно выдумывает: тон не зависит от того, помнит модель точно или сочиняет на ходу.
Почему разработчики не положат текст рядом
Такой вопрос приходит в голову каждому, и он разумный: храните классику отдельным файлом и отдавайте дословно, а генерацию оставьте для нового.
Так и делают, только в других продуктах. Поиск, электронная библиотека, справочная система устроены именно как полка: нашли нужное место и показали его без изменений. ChatGPT построен иначе и для другого. Его задача — отвечать на вопросы, которых никто раньше не задавал, и собирать тексты, которых никто не писал: твоё сочинение по твоей теме, объяснение под твой уровень, сравнение двух вещей, которые никто не сравнивал. Способность собирать заново и есть смысл всей конструкции. Её же он применяет к тому, что давно написано, потому что другого способа ответить у него нет.
Добавить к модели настоящую библиотеку можно, и постепенно это делают: часть сервисов уже ищет в источниках и цитирует их со ссылкой. Но пока ты разговариваешь с обычной нейросетью без поиска, она работает по памяти.
Чем это оборачивается в учёбе
Самое неприятное случается не на уроке, а через месяц. «Почти цитата» попала в доклад, доклад приняли, ты запомнил формулировку как верную — и однажды повторил её там, где её проверили.
Проверять легко, если знаешь, где смотреть: цитата, дата, имя, номер закона, название статьи. Всё, что должно совпадать буква в букву, у нейросети в зоне риска. Всё, что можно сказать разными словами, она передаёт хорошо.
Когда брать книгу, а когда ИИ
Книгу, учебник, хрестоматию или нормальный архив — когда нужен точный текст: стихотворение наизусть, определение в контрольной, цитата в работе, формулировка закона.
Нейросеть — когда нужно понять: объясни другими словами, разбери строфу, сравни двух героев, задай вопросы по главе, проверь моё рассуждение. Здесь она сильна по-настоящему, и ни одна полка так не умеет.
Правило на каждый день короткое: то, что будешь цитировать, — из книги; то, что будешь понимать, — из разговора с ИИ.
С картинками работает так же
Генерация изображений устроена по тому же принципу: модель собирает кадр заново, а не достаёт его из архива. Поэтому она прекрасно делает новое — обложку, иллюстрацию, арт — и не может вспомнить конкретную фотографию, которой не видела.
Если нужен определённый человек, предмет или сцена, модели дают исходник и просят изменить его. Как собирается изображение, разобрано в статье как нейросеть генерирует изображения, а что писать в запросе — в как писать промпт для нейросети.
Коротко
Нейросеть — не книжная полка и никогда ею не была. Она собирает текст заново, и частое у неё выходит точно, а редкое — правдоподобно. Знание этой разницы стоит одного абзаца, а экономит годы доверия не тому источнику.
Сгенерировать новое изображение можно на главной FreeBanana.ru: после регистрации есть бесплатная проба, цена видна до кнопки.
Пора попробовать!
Хватит читать — пора действовать. Загружайте свои фотографии и тестируйте инструменты прямо сейчас. Первые генерации абсолютно бесплатны!