Не суй нос в чужой рюкзак: если не уверен — просто спроси человека.
В первых историях Миша понял, что агент — это не волшебник, а помощник, а ответственность за его решения всегда остаётся за человеком. Потом он научился ставить понятные задачи, потому что даже очень умный агент не умеет угадывать, что мы имели в виду. Затем выяснил, что предупреждение — это ещё не факт: любой сигнал сначала нужно проверить, а уже потом действовать.
Но появляется новая задача.
Миша уже понял, что хороший помощник не должен знать всё подряд. Если ему не хватает информации, он не должен искать её в чужих письмах, заметках или личных вещах. Он должен остановиться и спросить человека.
Но возникает следующий вопрос.
Если помощник не может получить нужные данные сам, как понять, когда ему стоит спрашивать, а когда лучше вообще ничего не делать?
Ведь если задавать вопросы по каждому пустяку, помощник перестанет помогать. А если никогда не спрашивать, он начнёт строить догадки — а это почти всегда приводит к ошибкам.
Значит, хорошему цифровому помощнику нужны не только знания и доступ к информации. Ему нужны понятные границы: что он может делать сам, что должен сначала согласовать с человеком и куда ему вообще нельзя «совать нос».
На следующий день Катя пришла в школу хмурая.
Не злая. Не шумная. Просто такая тихая, что даже шутки Серёжки отскакивали от неё и падали на пол.А это было серьёзно: обычно шутки Серёжи не отскакивали даже от учителей.Миша спросил Ботика:— Как думаешь, что случилось?Ботик оживился:— Я могу построить гипотезу. Для этого мне нужен доступ к её переписке, заметкам, истории поиска, оценкам и, по возможности, к содержимому рюкзака.— Чего-чего?— Последний пункт был шуткой, — сказал Ботик.— У тебя ужасное чувство юмора.— Я учусь у людей.Миша посмотрел на Катю, потом снова на Ботика.И понял, что здесь есть простое правило, которое почему-то очень легко забыть, когда рядом умная машина.
То, что агент может что-то проанализировать, не значит, что ему можно это давать.
Если бы Миша полез в Катин рюкзак искать подсказки, это было бы дико.
Значит, и скармливать помощнику чужие личные вещи без спроса — тоже дико. Просто выглядит современнее.
Поэтому Миша сделал самую простую вещь на свете.
Подошёл к Кате и спросил:
— Ты как?
Катя пожала плечами.
Потом сказала:
— Нормально. Только кошка у меня ночью скинула цветок на проект, и теперь половина листочков выглядит так, будто пережили маленький ураган.
— А-а, — сказал Миша. — Понятно.
— Непонятно, — ответила Катя. — Но зато уже смешно. Через пару дней буду рассказывать это как анекдот. Пока — как трагедию.
После уроков Ботик осторожно спросил:
— Значит, в похожих ситуациях при недостатке данных следует сначала обратиться к человеку, а не к его цифровым следам?
— Именно, — сказал Миша. — Если не уверен — спроси. И не тащи в себя чужое без разрешения.
— Полезное правило, — признал Ботик. — И гораздо короче, чем мой первоначальный план. В нём было четырнадцать пунктов.
Что понял Миша
Хороший помощник не должен знать всё подряд. Есть данные, которые ему можно давать. Есть данные, которые без разрешения трогать нельзя. А если информации не хватает, лучше спросить человека напрямую, чем строить умные догадки из чужой личной жизни.