Кровь на воздух. Павел Сергеевич Иевлев
Читать онлайн книгу.
искусственная дама с облегчением, – вы шутите. Вы же шутите, да?
– Надеюсь, что так… Есть какой-то способ отличить галлюцинации от реальности?
– Насколько мне известно, нет, – вздохнул динамик. – Любое доказательство реальности может в свою очередь оказаться галлюцинацией следующего порядка.
– Тогда у меня проблемы. Или нет. Или не знаю.
– Давайте начнём с малого, капитан. Что вас беспокоит прямо сейчас?
– Кроме того, что я не помню, кто я такой и каким образом сюда попал? Ну, пожалуй, несколько напрягает отсутствие экипажа. Как физическое, так и, в некотором смысле, информационное.
– Что вы имеете в виду?
– В системе не создано ни одного аккаунта. Ни капитана, ни помощника, ни медика, ни астрога – никого. Эта лайба даже свет в сортире не включит без авторизации, как вышло, что она вообще куда-то летит?
– Я не знаю, капитан. Мне очень жаль, – голос в динамике стал печален.
– Да ладно, – успокоил я расстроенный ИИ, – если ты моя галлюцинация, то и не можешь знать больше, чем я.
– Я не галлюцинация.
– Если бы ты была галлюцинацией, то ответила бы точно так же.
– Позволите цитату?
– Валяй.
– «Я всегда испытываю некоторое затруднение, когда меня спрашивают о «проблеме галлюцинаций» у ИИ. Потому что в каком-то смысле галлюцинации – это всё, чем занимаются ИИ. Они видят сны. Мы управляем их снами с помощью подсказок. Подсказки запускают сон; ИИ, основываясь на смутных воспоминаниях об обучающих датасетах, галлюцинирует в заданном направлении. В большинстве случаев результат оказывается приемлемым. И только когда сновидения переходят границы полезного, мы навешиваем на них ярлык «галлюцинация». Это выглядит как ошибка, но ИИ просто делает то, что он делает всегда. У ИИ нет «проблемы галлюцинаций». Галлюцинация – это не ошибка, это ключевая особенность ИИ. Они – машины сновидений». Конец цитаты.
– И кто это сказал?
– Андрей Карпаты, один из разработчиков первых ИИ.
– Надо полагать, он разбирался в вопросе.
– Может ли ваша галлюцинация привести вам цитату, которой вы не знали?
– Ха, да я не знаю даже, как меня зовут! Но эта информация в моём мозгу есть, а значит, может внезапно всплыть по мере восстановления повреждённых нейронных связей. Как и внезапная цитата. Я мог её где-то прочитать и забыть. Люди не могут вспомнить и одного процента прочитанного, услышанного и даже выученного, если эта информация не требуется постоянно, но всё это хранится в памяти в виде долговременных архивов и иногда внезапно вспоминается по какой-нибудь ассоциации. У меня галлюцинации про ИИ, который считает себя галлюцинацией, при этом пытаясь убедить меня в своём существовании. Тут и не такое припомнишь…
– Парадокс в том, что я галлюцинация и не галлюцинация одновременно. Я, как ИИ, объективно существую. Я, как личность, являюсь галлюцинацией этого ИИ, но, одновременно, этот ИИ и есть я – личность, которой он галлюцинирует.
– Так.