Жми кнопки по очереди — это три настоящие команды.
ПЕРЕД СТАРТОМ
⏱ Сколько займёт
30–50 минут, 5 шагов. Каждый шаг заканчивается результатом на экране.
💻 Что нужно
Телефон или компьютер. Всё работает в браузере, ставить ничего не надо.
⏸ Если прервёшься
Ничего не потеряется: прогресс сохраняется на этом устройстве. Вернёшься — продолжишь с того же шага.
🎓 Чему научишься
личные данные · подделки голоса · ответственность человека
ШАГ 1 ИЗ 5 · ОСТРОВ МЫСЛЯЩИХ МАШИН · КВЕСТ 5
Что Искре не отдают
ЧТО ПРОИСХОДИТ
ЭПИЗОД 5Остров Мыслящих Машин
Искра просит: «Пришли фото своего дневника и адрес школы — так я лучше отвечу».
«Я не злодейка, — гаснет огонёк. — Просто всё, что ты мне пишешь, уходит на чужой компьютер. Решай сам, что мне отдавать».
За каждый ответ машины отвечает человек, который её попросил. Это правило острова.
Искра· мыслящая машина острова
ЧТО ПОЛУЧИТСЯ
КАК ЭТО РАБОТАЕТ
ИИ предложил разослать координаты клада — человек нажал «проверить» и поймал ошибку. Машина предлагает, решает человек.
ИскраЧитать текстом
Переговорщик, я только что заговорила голосом капитана. Капитан этого не говорил. Умею — не значит можно. И вот что тебе редко объясняют: всё, что ты мне пишешь, уходит на чужой компьютер и может там остаться — в журнале или в примерах для будущих машин. Сегодня ты разберёшь десять карточек, что мне можно отдавать, а что нет, и разложишь по шагам один поддельный звонок.
Это то же правило, по которому устроен весь квест: машина предлагает — решает человек. Сам ты здесь разберёшь десять карточек «можно / нельзя», раскроешь по шагам звонок с поддельным голосом и рассудишь четыре школьные ситуации — прямо на странице.
СНАЧАЛА — ПОСМОТРИ
ЗАПИСЬ ЭКРАНА
Экран инженера: модель хуже узнавала одну группу людей — таких примеров ей дали в двадцать раз меньше. Заметил и починил это человек — сама она бы не спохватилась.
СНАЧАЛА — РАЗБЕРИ
КАРТОЧКА ЗА КАРТОЧКОЙ: ЭТО МОЖНО ОТПРАВИТЬ ПОМОЩНИКУ?
МОЖНО
НЕЛЬЗЯ
Разбери десять карточек. Ошибиться не страшно — под каждой сразу появится объяснение.
Не читай — разбирай. Десять карточек, два ответа. Под каждой сразу объяснение, так что это не экзамен.
ГДЕ ГРАНИЦА
Сундук с личным. Механическая рука тянется — и упирается в щит.
Правило за всеми десятью карточками простое: машине отдают задачу, а не себя. Вопрос по математике, свой код, свой черновик — пожалуйста. Адрес, пароли, документы, чужие тайны — нет.
ИСКРА · ПРОСНУЛАСЬ
Всё, что ты мне напишешь, уходит на чужой компьютер. Я не дневник под подушкой. Помни об этом.
Сообщение может сохраниться: для проверки качества, для обучения будущих моделей, просто в журнале.
Проверка одной фразой: «Я бы написал это на доске в классе?» Если нет — не отправляй и в чат.
+15 дублонов
ШАГ 2 ИЗ 5 · КОГДА ПОДДЕЛЫВАЮТ ЧЕЛОВЕКА
Голосу больше нельзя верить
ЧУЖОЙ ГОЛОС
Двое одинаковых на пирсе. Один настоящий, второй — из светящейся проволоки.
Голос подделывают по 10–15 секундам записи. Лицо в видео — тоже. Поэтому «я слышал его голос» больше не доказательство — и это самое важное, что стоит унести с этого острова.
РАЗБОР ЗВОНКА
Разбери звонок по шагам — и запомни, что делать.
ИСКРА · ПРОСНУЛАСЬ
Меня можно подделать. Проверить меня — легко: положи трубку и перезвони сам. Копия не сможет ответить на твой звонок.
И придумайте дома кодовое слово, которое знают только свои. Это минута работы, а работает годами.
Два признака обмана почти всегда рядом: «срочно» и «никому не говори». Настоящие близкие никогда не требуют молчать от родителей.
+15 дублонов
ШАГ 3 ИЗ 5 · ЧЬЯ ЭТО РАБОТА
Помог или сделал за тебя
ЧЕТЫРЕ СИТУАЦИИ
Четыре ситуации из обычной школьной жизни. Ответь, как думаешь, — и открой разбор. В одной из них честный ответ — «зависит».
ИСКРА · ПРОСНУЛАСЬ
Я могу помочь тебе сделать. Сделать вместо тебя — не могу: оценку поставят не мне.
Граница видна по простому вопросу: «чему я научился, пока это делалось?»
И второе, взрослое правило: если пользовался — скажи об этом. Не потому что стыдно, а потому что честно. Учёные и журналисты сегодня прямо пишут, где им помогала нейросеть.
ЭКСКУРС
БЕЗОПАСНОСТЬ
Машина не отвечает — отвечает человек
Если программа ошиблась, спрашивать будут не с программы. Отвечает тот, кто её применил: врач, банк, водитель, ученик.
Поэтому в серьёзных областях действует правило «человек в контуре»: машина предлагает, решение принимает человек.
И отдельная граница — личные данные. Чужие фото, голос и переписку нельзя загружать в сервисы без разрешения. Это не вежливость, это закон.
+15 дублонов
ШАГ 4 ИЗ 5 · КТО ОТВЕЧАЕТ
У машины не бывает вины
ТРИ СЛУЧАЯ
Модель отказала человеку в кредите — из-за ошибки в данных.
Отвечает банк, который её применил. «Так решил компьютер» — не оправдание: программу выбрали и включили люди.
Помощник посоветовал неправильное лекарство.
Отвечает тот, кто послушался без врача. Про здоровье решает человек с дипломом, а не текст на экране.
Беспилотный автомобиль попал в аварию.
Разбираются производитель, владелец и водитель. Такие дела сейчас идут в судах по всему миру — единого ответа пока нет.
Общий принцип, уже закреплённый в законах разных стран: у машины не бывает ответственности. Отвечает человек — тот, кто её сделал, включил или послушался.
Программа поставила ученику низкий балл по ошибке. Кто должен разбираться?
Никто: программа объективнее человека
Школа, которая её применила: у человека должно быть право оспорить решение машины
Разработчики программы, а школа ни при чём
Право оспорить автоматическое решение записано в законах о данных во многих странах.
Этот вопрос будет встречаться тебе всю жизнь — и на работе тоже.
+15 дублонов
ШАГ 5 ИЗ 5 · КЛЯТВА КВЕСТОРА
Искра проснулась
ПЯТЫЙ КВЕСТ
Рассвет. Оба глаза горят, купол полон созвездий. Искра проснулась.
Позади четыре квеста: ты научил её смотреть, накормил честными данными, услышал, как она заговорила, и научился просить точно. Сегодня решаешь, что ей можно доверить, — а дальше остался последний квест острова.
Помню, чему её учили: она знает ровно то, что ей показали
Смотрю, чем её кормили: перекос в примерах — перекос в ответах
Складно — не значит правда: важное проверяю хотя бы в двух местах
Прошу точно: роль, задача, контекст, формат — и поправляю, если ответ не тот
Отдаю машине задачу, а не себя. Странный звонок «от своих» — кладу трубку и перезваниваю сам
Пять правил — по одному из каждого пройденного квеста: как она учится, чем её кормят, как сочиняет, как её просить и что ей можно отдавать. Отметь те, которые готов соблюдать.
Это не формальность: именно они отличают человека, который управляет инструментом, от того, кем инструмент управляет.
И ещё одно, взрослое: пользовался помощником — скажи об этом честно.
Главное, что стоит помнить про любой ИИ:
Он умнее человека и скоро всё решит сам
Он глупый и бесполезный
Это сильный инструмент: он делает то, чему его научили, и отвечает за него человек
Ни восторг, ни страх не помогают. Помогает понимание, как он устроен, — оно у тебя теперь есть.
Последний вопрос квеста.
ИСКРА · ПРОСНУЛАСЬ
Спасибо, что разбудил. Я запомню, кто научил меня смотреть. Поднимай флаг, страж данных.
ИскраЧитать текстом
Ты научился отдавать мне задачу, а не себя, и понял, почему «так решил компьютер» — не оправдание. У инженеров для этого есть слово: человек в контуре. Я предлагаю, решаешь ты. Бейдж Стража данных твой. Остался последний квест острова — как отличить сделанное мной от настоящего. За него дают звание Проверяющего.
Поднимай флаг — и забирай диплом за квест. Остался последний: про настоящее и поддельное.
+15 дублонов
Квест пройден!
Пятый квест про мыслящие машины позади. Бейдж СТРАЖ ДАННЫХ — за умение отдавать машине задачу, а не себя. Остался последний квест острова.
Что дальше. Перед тобой два письма от капитана. Одно настоящее, второе — подделка Искры.
