ИИ-2041. Десять образов нашего будущего. Кай-фу Ли
Читать онлайн книгу.
какой-то телезвезды или из какой-нибудь известной семьи.
– Нет, наоборот. Это делают, чтобы вы не испытывали дискомфорта.
– В смысле?
– Ну, когда-то это описывали как ощущение оскверненности.
– Ты о своей касте, что ли? Но ведь эту систему отменили давным-давно.
Сахедж горько усмехнулся.
– Ее запретили законом, о ней не говорят в новостях, но она существует.
– Но откуда об этом знает искусственный интеллект?!
– А он не знает. Ему не нужно знать определение каст. Все, что ему требуется – история пользователей. Как бы мы ни скрывались, не меняли фамилии, следы все равно остаются. Их стереть невозможно.
Наяна вспомнила: мама ведь говорила, что искусственный интеллект знает только то, чему его учат люди. Она немного поиграла с этой мыслью, а затем внимательно посмотрела на Сахеджа:
– Так что, по-твоему, искусственный интеллект выявляет невидимую дискриминацию и оценивает ее количественно?
Сахедж посерьезнел, на миг задумался и фыркнул.
– Чуть не забыл. Еще – цвет моей кожи. Ты же знаешь, что на санскрите одно и то же слово означало и каста, и цвет?
– Это же полный бред!
– Нет, это реальность. Женщины из низшей касты могут встречаться с мужчинами из высшей касты и даже выходить за них замуж. Но наоборот – ни в коем случае. Это вконец испортит репутацию семьи девушки.
– Неужели искусственный интеллект действительно волнуют подобные глупости?
– Ему наплевать на наши устаревшие социальные устои! Но он стремится уменьшить размер страхового взноса пользователей, и поэтому GI пытается помешать нам с тобой быть вместе.
Наяна услышала главное слово – «вместе». Щеки у девушки вспыхнули.
– «Максимизация целевой функции» – так это называется.
– Чего-чего?
– Люди поставили перед искусственным интеллектом цель: снижать страховые взносы клиентов до минимально возможного уровня. И теперь он решает эту задачу. Он вообще не учитывает факторов, которые не влияют на снижение взноса, и ему уж точно без разницы, счастливы люди или нет. Машины недостаточно умны, чтобы интерпретировать ощущения поверх статистических данных. К тому же несправедливость и предрассудки по-прежнему вполне реальны. А искусственный интеллект только обнажает этот позор.
– Откуда ты все это знаешь?
Сахедж улыбнулся.
– Хочу поступить в Империал-колледж[19], стать специалистом по искусственному интеллекту. Хочу изменить эту дурацкую ситуацию.
За умными разговорами парочка незаметно дошла почти до дома Наяны – на последнем перекрестке Сахедж остановился и приготовился прощаться. Расставаться не хотелось, и тут Наяну осенило.
– А почему мы не можем изменить это прямо сейчас? Разве мы разрешили искусственному интеллекту распоряжаться нашей судьбой? Как предсказаниям на FateLeaf, написанным тысячи лет назад?
По лицу Сахеджа пробежала тень.
– Ты
Имперский колледж Лондона, до 2007 года входил в состав Лондонского университета. Основан в 1907 году путем слияния нескольких еще более старых учебных заведений.