о научной фантастике, тесте Тьюринга и этике

о научной фантастике, тесте Тьюринга и этике #рекомендации #ии #рефлексия

Перечитываю книжный цикл Марты Уэллс «Дневники киллер-бота». Это психологическая/приключенческая фантастика, написанная от лица киборга, так называемого автостража, который является оборудованием страховой компании: его сдают в аренду для обеспечения безопасности космических экспедиций.

Главный герой еще до начала романа взломал свой модуль контроля, и это позволяет ему не подчиняться людям. Он не очень понимает, как ему распорядиться этой свободой, поэтому он продолжает делать свою работу, просто делает ее на отвали и смотрит много сериалов.

Завязка первого романа в том, что он попадает в команду исследователей, которые обнаруживают, что он не робот, а киборг (а позже узнают его секрет) и начинают относиться к нему как к равному члену команды, как к личности. А герой киборг-социофобушек: испытывает неловкость при общении с людьми, с трудом смотрит им в глаза, плохо себя чувствует без непрозрачного шлема и не дай бог люди заговорят о его чувствах. Он испытывает от всего очень смешанные эмоции, но затем экспедиция идет наперекосяк, и он решает спасать "своих людей" в том числе ценой своей жизни - потому что хочет, а не потому что это его работа. Прекрасный роман, здорово описывает внутренние чувства главного героя, его неловкость и переживания. Мне нравится, как роман отображает технологии будущего, сети, дроны, камеры, космические полёты, отношения между людьми, дополненными людьми и роботами, конструктами и так далее.

Что мне особенно интересно сейчас, когда я перечитываю в 25 году.

Во-первых, немножечко пробуждает во мне технооптимизм снова. Так, на полшишечки. У романа легкий доброжелательный тон и если не позитивное видение будущего, то хотя бы нейтральное. Уже неплохо.

Еще задумался, как странно, что фантасты десятилетиями писали о сложностях отношений с ИИ: как много классических фильмов и романов посвящено самоидентификации робота. Взять тот же Blade Runner, например. Но сейчас именно мы стоим в той точке, где нам надо начинать в абсолютно прикладном смысле думать об отношениях с ИИ.

Почему это важно? Потому что, внезапно, тест Тьюринга оказывается пройден по состоянию на весну 2025 года в рандомизированных исследованиях!

В слепых тестах люди не способны отличать современные языковые модели от живых людей, особенно если модели дали дополнительные инструкции о том, что надо вести себя определенным образом, имитируя какой-то типаж. В текстовом общении боты неотличимы от людей. Все, мы перешли эту грань, фарш назад не провернется.

И тут наступает интересный момент. Сейчас мы находимся в точке, где нам важно различать, где говорящий арифмометр, а где человек, потому что арифмометр очень хорошо имитирует, но не является личностью, не обладает эмоциями и сознанием. Нам важно не очеловечивать арифмометр, не переносить на этот сложный т9 наши представления и такие понятия, как "доверие", например.

А вот роман описывает другой конец этой палки. Момент, в который важно перестать относиться к частично органичной или неорганической жизни как к механизму и начинать относиться к нему как к субъекту, как к личности.

И раньше чем мы думаем возникнет вопрос, а как мы будем это делать? Как мы будем понимать, что пора? Мы ещё не изучили собственное сознание, мы не знаем, как оно устроено. Как мы будем разбираться, когда мы еще пользуемся инструментом, а когда уже эксплуатируем новую форму жизни, новое сознание?

Это так странно, правда. Я на это смотрел в кинотеатре в фильме «Я, робот» с Уиллом Смитом (пора пересмотреть, чувствую с его героем родство). Действие фильма проходит в 2042 году. А мы гораздо быстрее к этому приближаемся, чем думали.