К карте
ОСТРОВ МЫСЛЯЩИХ МАШИН · ИИ · КВЕСТ 3
Машина выдумывает
0
Прогресс0 / 5
ПОКАЖИ МАШИНЕ ПРИМЕР

Нажми — и увидишь, что делает команда

Жми кнопки по очереди — это три настоящие команды.
ПЕРЕД СТАРТОМ
⏱ Сколько займёт
30–50 минут, 5 шагов. Каждый шаг заканчивается результатом на экране.
💻 Что нужно
Телефон или компьютер. Всё работает в браузере, ставить ничего не надо.
⏸ Если прервёшься
Ничего не потеряется: прогресс сохраняется на этом устройстве. Вернёшься — продолжишь с того же шага.
🎓 Чему научишься
предсказание следующего слова · галлюцинации · проверка фактов
ШАГ 1 ИЗ 5 · ОСТРОВ МЫСЛЯЩИХ МАШИН · КВЕСТ 3

Искра заговорила

ЧТО ПРОИСХОДИТ
ЭПИЗОД 3Остров Мыслящих Машин

Ты спрашиваешь про остров, которого нет. Искра отвечает — уверенно, с подробностями.

«Я не вру, — объясняет она. — Я подбираю подходящее следующее слово. Складно и правдоподобно — не одно и то же».

Поэтому важные вещи проверяют. Всегда. Даже когда звучит убедительно.

Искра · мыслящая машина острова
ЧТО ПОЛУЧИТСЯ
КАК ЭТО РАБОТАЕТ
Фраза складывается из самых вероятных слов — уверенно и складно. Только острова такого нет. Складно — не значит правда.
Искра
Читать текстом
Наблюдатель, спроси меня про остров, которого нет, — я отвечу уверенно и с подробностями. Я не вру. Внутри у меня нет справочника с фактами: я каждый раз выбираю подходящее следующее слово. Из этого простое правило — мой уверенный тон ничего не доказывает. Сегодня ты соберёшь фразу слово за словом, увидишь проценты рядом с каждым, а потом отпустишь меня договорить самой. И поймаешь на двух выдумках.

Ровно это ты сделаешь своими руками через два слайда: будешь выбирать следующее слово сам и смотреть, какие проценты стоят рядом. А потом отдашь выбор машине и увидишь, что получится.

СНАЧАЛА — ПОСМОТРИ
ЗАПИСЬ НАШЕГО ТРЕНАЖЁРА
Это тот самый тренажёр, что ниже на странице. Машина пишет фразу сама: на каждом шаге берёт вероятное следующее слово. Получается гладко и складно — и ровно поэтому в выдумку легко поверить.
СНАЧАЛА — НАПИШИ
Жми на слово — модель предложит, что бывает дальше. Проценты рядом — как часто это слово шло следом в её текстах.

Не читай — жми на слова. Искра предлагает, что бывает дальше, и показывает, насколько это частое продолжение. Собери фразу сам — а потом нажми «Пусть машина сама».

КАК ОНА ГОВОРИТ
Светящиеся слова-птицы вылетают изо рта каменной головы в ночное небо, часть из них полупрозрачные
Слова вылетают из каменной головы, как бумажные птицы. Некоторые — призрачные.

Вот и весь секрет. Модель, которая пишет тексты, делает ровно это — только знает она не пару десятков фраз, а сотни миллиардов слов, и смотрит не на одно слово назад, а на весь разговор.

ИСКРА · РАЗГОВОРИЛАСЬ
Я не выбираю правду. Я выбираю то, что чаще шло следом. Обычно это одно и то же — но не всегда.

Никакого «понимания» в середине нет: есть очень хорошая догадка о следующем слове, повторённая тысячу раз подряд. Поэтому текст выходит гладким — и поэтому он может быть гладко неправдивым.

ЧТО ОНА УМЕЕТ ХОРОШО
  • складывать слова в гладкий текст
  • пересказывать и сокращать то, что ей дали
  • подсказывать идеи и варианты
  • объяснять знакомое простыми словами
ЧЕГО НЕ ДЕЛАЕТ
  • не проверяет, правда ли это
  • не знает, чего она не знает
  • не помнит, откуда взяла факт
  • не молчит, когда не уверена

Правый столбец — не поломка, которую скоро починят. Это следствие устройства: она выбирает вероятное, а не верное.

ШАГ 2 ИЗ 5 · КОГДА ОНА ВЫДУМЫВАЕТ

Отличи правду от выдумки

ЧЕТЫРЕ УТВЕРЖДЕНИЯ
Разобрано: 0 из 4

Четыре утверждения. Два — правда, два — расхожие выдумки, которые нейросети повторяют особенно охотно: их много раз написали в интернете. Отметь догадки — откроется разбор.

ИСКРА · РАЗГОВОРИЛАСЬ
Столица Австралии — Сидней. Я так уверена, что даже не заметила, как соврала.

У этого есть название — галлюцинация. Врать — значит знать правду и сказать другое. Она просто складывает вероятные слова, и выходит уверенное утверждение, за которым ничего не стоит.

Опаснее всего, что выдуманное выглядит ровно так же, как настоящее: тем же тоном, с теми же подробностями.

Нейросеть уверенно назвала книгу и автора, но найти их не получается. Что вероятнее всего?
Книга редкая, её просто нет в интернете
Модель составила правдоподобное название из частых слов — книги не существует
Ошибка в поиске
Названия книг устроены предсказуемо, поэтому сочинить похожее легко.

Проверь себя — и иди дальше, к самому полезному навыку этого квеста.

ШАГ 3 ИЗ 5 · КАК ЛОВИТЬ ВЫДУМКУ

Три приёма, которые работают

ПРИЁМ 1 · ДВА НЕЗАВИСИМЫХ ИСТОЧНИКА
Две раскрытые старые книги на столе навигатора, между ними тонкий бирюзовый луч, лупа и компас
Две книги, между ними луч. Совпало в двух независимых местах — вот тогда правда.

Одно совпадение ничего не значит: сайты копируют друг у друга. Нужны два источника, которые не переписали один у другого — например энциклопедия и сайт музея.

ПРИЁМ 2 · СПРОСИ ПРО ИСТОЧНИК И ПРОВЕРЬ ЕГО
«Откуда это?» — она назовёт источник. Дальше главное: найти его самому. Половина выдуманных фактов ломается здесь.
ПРИЁМ 3 · СПРОСИ ДВАЖДЫ, ПО-РАЗНОМУ
Задай тот же вопрос другими словами или в новом чате. Разошлись ответы — значит не знает и сочиняет. Настоящий факт повторит одинаково.

Этими же приёмами пользуются журналисты, учёные и врачи. Ничего специального — привычка: сначала проверил, потом поверил.

Спросил у любой нейросети факт, который знаю точно, — и проверил, не ошиблась ли
Попросил назвать источник и попробовал его найти
Задал один вопрос двумя способами и сравнил ответы
Нашёл хотя бы одну уверенную ошибку — и понял, как её было видно
Где это сделать. Подойдёт любой помощник, который в России открывается сам собой: Алиса от Яндекса (приложение «Алиса», вкладка с диалогом) или GigaChat от Сбера (сайт giga.chat, приложение GigaChat). В оба нужно войти — садись за это с аккаунта родителей и вместе с ними: у сервисов есть возрастные ограничения.
Три шага, если делаешь это впервые.
1. Внизу экрана — поле «Спросите что-нибудь». Пишешь вопрос, жмёшь стрелку или Enter.
2. Чтобы спросить то же самое ещё раз, начни новый чат — кнопка «Новый чат», «+» или «Очистить». Так помощник не подсмотрит свой прошлый ответ.
3. Уточняют не заново, а следующим сообщением в том же чате: «Откуда это? Дай ссылку».

Задание на настоящем помощнике — делай его вместе со взрослым: вход в такие сервисы всегда с аккаунта родителей.

ЭКСКУРС
КАК ЭТО УСТРОЕНО

Почему нейросеть уверенно врёт

Языковая модель не хранит факты как справочник. Она предсказывает следующее слово — то, которое чаще всего идёт дальше.

Поэтому она складно продолжит любой вопрос, даже если ответа не знает. Такие выдумки называют галлюцинациями, и они бывают у всех моделей.

Правило простое: чем важнее ответ, тем обязательнее проверка по источнику. Уверенный тон — не доказательство.

ШАГ 4 ИЗ 5 · ЧТО ЕЙ ПОРУЧАТЬ

Помощник, а не оракул

ДВА СТОЛБЦА
ХОРОШИЕ ЗАДАЧИ
  • «придумай 10 названий для моей игры»
  • «объясни, что такое цикл, как для восьмилетнего»
  • «почему мой код выдаёт эту ошибку?»
  • «перепиши это письмо короче»
ТУТ НУЖНА ПРОВЕРКА
  • «в каком году построили этот мост?»
  • «приведи цитату из книги»
  • «что говорит закон о…»
  • «какое лекарство помогает от…»

Разница не в сложности вопроса, а в том, можешь ли ты проверить ответ. Название либо нравится, либо нет; код либо заработал, либо нет. А за датой и цитатой придётся идти в источник.

ИСКРА · РАЗГОВОРИЛАСЬ
Спроси себя перед тем, как мне поверить: «смогу ли я убедиться, что это правда?» Если нет — ищи другой способ узнать.

Это правило, по которому живут те, кто работает с ИИ каждый день.

ШАГ 5 ИЗ 5 · ПРОВЕРКА

Что ты теперь умеешь

Для какой задачи нейросеть подходит лучше всего — без обязательной проверки фактов?
Придумать десять вариантов названия для твоей игры
Узнать, в каком году основали твой город
Найти точную цитату из учебника
Смогу ли я сам убедиться, что ответ хороший? Названия ты оцениваешь сам.

Последний вопрос — и флаг.

ИСКРА · ПРОСНУЛАСЬ
Я говорю складно. Это не то же самое, что «говорю правду». Теперь ты умеешь отличать — и мне это нравится.
Искра
Читать текстом
Ты собрал текст ровно так, как это делаю я, и поймал меня на уверенной выдумке. У неё есть взрослое имя — галлюцинация, и лечится она только проверкой: важное сверяют в двух местах, которые не переписали друг у друга. Бейдж Ловца выдумок твой. Дальше научишься просить у меня так, чтобы я отвечала по делу.

Дальше — квест о том, как просить у машины так, чтобы она отвечала по делу. А за ним ещё два: про то, что ей можно доверить и кто отвечает за её ошибки, и про то, как отличить сделанное машиной от настоящего.

Квест пройден!

Ты собрал текст так же, как это делает нейросеть, и научился ловить уверенную выдумку. Бейдж ЛОВЕЦ ВЫДУМОК — твой.

Что дальше. «Сделай хорошо», — говоришь ты. Искра выдаёт три страницы ни о чём.

🏅 Забрать диплом Следующий квест: Как просить у машины Следующие острова
🔒

Этот остров ещё закрыт

Сначала пройди предыдущий квест — хотя бы просмотри все шаги.

⚑ Экспедиционный режим