Жми кнопки по очереди — это три настоящие команды.
ПЕРЕД СТАРТОМ
⏱ Сколько займёт
30–50 минут, 5 шагов. Каждый шаг заканчивается результатом на экране.
💻 Что нужно
Телефон или компьютер. Всё работает в браузере, ставить ничего не надо.
⏸ Если прервёшься
Ничего не потеряется: прогресс сохраняется на этом устройстве. Вернёшься — продолжишь с того же шага.
🎓 Чему научишься
перекос в данных · проверка на новых примерах · разнообразие выборки
ШАГ 1 ИЗ 5 · ОСТРОВ МЫСЛЯЩИХ МАШИН · КВЕСТ 2
Почему она ошибается
ЧТО ПРОИСХОДИТ
ЭПИЗОД 2Остров Мыслящих Машин
Искра уверенно говорит: «Это не яблоко». А на столе — зелёное яблоко.
«Виновата не я, — огонёк тускнеет. — Мне показывали яблоки только красные. Значит, яблоко — это красное и круглое».
Машина знает ровно то, что ей показали. Перекос в примерах — перекос в ответах.
Искра· мыслящая машина острова
ЧТО ПОЛУЧИТСЯ
КАК ЭТО РАБОТАЕТ
В ролике машину учили крабам только на песке — и камень она назвала крабом. Добавили разнообразия — точность 93%. Модель не умнее своей выборки.
ИскраЧитать текстом
Я сказала «краб», а на картинке камень. Я не сломалась — мне показывали крабов только на песке, вот я и решила, что всё на песке краб. И вот что неприятно: на своих же примерах я покажу сто процентов. Ошибка вылезет только там, где я чего-то не видела. Сегодня ты накормишь меня одними красными яблоками, посмотришь, что я скажу про зелёное, и соберёшь набор без перекоса.
То же самое ты сейчас сделаешь своими руками — прямо на странице, только на яблоках: накормишь Искру одними красными и посмотришь, что она скажет про зелёное.
СНАЧАЛА — ПОСМОТРИ
ЗАПИСЬ ЭКРАНА
Экран взрослого инженера: часть примеров он прячет и проверяет модель на них — 85,7% на том, чего она не видела. Тот же приём в тренажёре на следующем слайде: восемь фруктов, которых Искра при обучении не видела.
СНАЧАЛА — ПРОВЕРЬ
1 · ВЫБЕРИ, ЧТО ПОКАЗАТЬ МАШИНЕ
2 · ПРОВЕРКА НА ФРУКТАХ, КОТОРЫХ ОНА НЕ ВИДЕЛА
Выбери примеры — или сразу нажми «Только красные яблоки», чтобы увидеть, что будет.
Не читай — проверь. Жми «Только красные яблоки», потом «Обучить и проверить». Смотри внимательно, что она скажет про зелёное. Потом нажми «Разные яблоки» и сравни.
ЧЕМ ЕЁ КОРМИЛИ
Амбар примеров. Почти все ящики — с красными: зелёные и жёлтые пылятся в углу.
Искра ест примеры. Чем её накормишь — тем она и станет. Никто не насыпал ей одних красных нарочно: просто красные были под рукой, а за зелёными надо было идти в дальний угол.
ИСКРА · УЧИТСЯ
Яблоко — красное и круглое. Зелёное круглое — не яблоко. Я уверена: на всех примерах у меня сто процентов.
Она не ошиблась — она честно выучила то, что ей показали. Виноват не алгоритм, а набор примеров. Это называется перекос данных.
ЧТО ВЫУЧИЛА
«Яблоко — красное и круглое»
На своих примерах — сто процентов. Ошибка вылезет только в жизни.
ЧТО МЫ ХОТЕЛИ
«Яблоко — круглое, цвет любой»
Для этого в примерах должны быть яблоки всех цветов.
Самое коварное: на своих же примерах модель показывает 100%. Проверяли бы её только красными — решили бы, что всё отлично.
+15 дублонов
ШАГ 2 ИЗ 5 · ТАК БЫВАЕТ ВЗАПРАВДУ
Перекос есть почти везде
ТРИ ТИПИЧНЫХ СЛУЧАЯ
Никто эти наборы не перекашивал нарочно. Просто днём фотографируют чаще, чем ночью, а взрослые говорят с помощниками чаще, чем дети.
Цифры на столбиках условные — они показывают, каким бывает перекос, а не точную статистику конкретного сервиса.
КАК ОНА СОРТИРУЕТ
Её сортировка в работе: красное проходит в золотые ворота, зелёное летит в брак.
Так это выглядит изнутри. Правило простое и работает быстро — просто оно неверное. И заметить это может только человек, который принесёт зелёное яблоко.
ИСКРА · УЧИТСЯ
Если я где-то тупая — сначала посмотри, чем меня кормили. В девяти случаях из десяти дело в этом, а не во мне.
И второе, посложнее: заметить перекос — работа человека. Искра сама не поймёт, что чего-то не видела: ей не с чем сравнивать, её мир — это её примеры.
Распознаватель кошек обучили на 10 000 фото домашних кошек — и он даёт 99% на проверке. Что может пойти не так?
Ничего: 99% — это отлично
Модель слишком простая для такой задачи
Проверка была на тех же домашних кошках. На уличной, мокрой, чёрной в темноте он может провалиться
Смотри не на процент, а на то, на чём его получили.
Тот же вопрос задают себе инженеры, когда видят красивую цифру.
+15 дублонов
ШАГ 3 ИЗ 5 · ПОЧИНИ НАБОР
Накорми её честно
ТВОЯ ОЧЕРЕДЬ
1 · ВЫБЕРИ, ЧТО ПОКАЗАТЬ МАШИНЕ
2 · ПРОВЕРКА НА ФРУКТАХ, КОТОРЫХ ОНА НЕ ВИДЕЛА
Выбери примеры — или сразу нажми «Только красные яблоки», чтобы увидеть, что будет.
Задание. Собери набор так, чтобы верно узнавались все группы — и красные, и зелёные, и жёлтые, и «не яблоки». Важен не размер набора, а его разнообразие.
Обучил только на красных — увидел, как проваливаются зелёные
Добавил зелёные и жёлтые — точность выросла
Довёл до 100% на всех группах
Попробовал обучить вообще без «не яблок» и понял, зачем они
Последний пункт — самый интересный: без примеров «не яблоко» ей не с чем сравнивать, и она называет яблоком вообще всё. Попробуй: сними галочки с огурцов, моркови и перца — и нажми «Обучить и проверить».
ЭКСКУРС
КАК ЭТО УСТРОЕНО
Мусор на входе — мусор на выходе
У инженеров есть поговорка: garbage in, garbage out. Модель не умнее данных, на которых её учили.
Известный случай: система найма научилась отсеивать женщин — просто потому, что в старых резюме компании их было мало. Машина повторила перекос людей.
Поэтому в серьёзных проектах есть отдельная работа — собрать разнообразную выборку и проверить модель на примерах, которых она не видела.
+15 дублонов
ШАГ 4 ИЗ 5 · ОТКУДА БЕРУТСЯ ПРИМЕРЫ
За каждой машиной — чужая работа
НЕУДОБНЫЙ ВОПРОС
ИСКРА · РАЗГОВОРИЛАСЬ
Меня кормили картинами художников и текстами людей. Их никто не спрашивал. Об этом сейчас спорят в судах.
Полезно держать в голове три вопроса про любую машину: на чём её учили, чьё это было и кого в этих данных не оказалось. Ровно эти вопросы задают взрослые специалисты.
1 · НА ЧЁМ УЧИЛИ
Фотографии откуда? Тексты чьи? Какого года? Модель, обученная на текстах до 2020-го, про 2026-й не знает ничего — и всё равно ответит.
2 · ЧЬЁ ЭТО БЫЛО
Художник рисовал годами — модель научилась его стилю за час. Спросили ли его? Часто нет.
3 · КОГО НЕ ОКАЗАЛОСЬ
Языки, на которых мало текстов в интернете, модели знают заметно хуже. Не потому что языки «хуже» — примеров мало.
Три вопроса, которые превращают «вау, оно умное» в осмысленный разговор.
+15 дублонов
ШАГ 5 ИЗ 5 · ПРОВЕРКА
Что ты теперь замечаешь
Приложение хорошо узнаёт птиц на фото, но в лесу постоянно ошибается. Куда смотреть первым делом?
Менять алгоритм на более современный
Смотреть, были ли в обучающих фото лесные снимки — или только птицы на светлом фоне
Увеличить количество слоёв нейросети
Плохо работает в конкретных условиях — сначала смотрят на данные, а не на алгоритм.
Последний вопрос квеста.
ИСКРА · РАЗГОВОРИЛАСЬ
Теперь я узнаю́ зелёные. И жёлтые. Дальше я научусь говорить — и вот тогда со мной надо будет поосторожнее.
ИскраЧитать текстом
Ты нашёл, где я ошибаюсь, и починил меня, не тронув ни строчки кода — просто дал разные примеры. Теперь ты смотришь не на красивый процент, а на то, на чём его получили: это называется проверкой на новых примерах. Звание Наблюдателя твоё. Дальше я заговорю — и начну складно сочинять то, чего не было.
Ты научился видеть за ответом машины её учебник. Дальше — квест, где Искра не узнаёт, а сочиняет. И делает это так убедительно, что проверять придётся особенно внимательно.
Поднимай флаг.
+15 дублонов
Квест пройден!
Ты нашёл, откуда у модели берутся ошибки, и починил её. Бейдж ГЛАЗ НА ДАННЫЕ — теперь ты видишь то, что скрыто за красивым процентом.
Экспедиция «Как машина учится» закрыта: Гильдия Квесторов присваивает звание НАБЛЮДАТЕЛЬ.
Что дальше. Ты спрашиваешь про остров, которого нет. Искра отвечает — уверенно, с подробностями.
