Механическое чудо. Кирилл Берендеев
Читать онлайн книгу.
присутствующих.
– Итак, приступим, собственно, к концепции алгоритмизации законов Азимова. Первый закон гласит: «робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен какой-либо вред». Как доказал в своих произведениях классик, вторая часть этого утверждения по существу равна первой. Ситуация из Азимова: робот, не способный действием причинить вред человеку, но способный сделать это бездействием, решил убить человека. Робот берёт большой камень, поднимается на крышу дома и, когда человек проходит внизу, бросает камень ему на голову. Сил и возможностей робота хватит, чтобы остановить камень в полете, собственно, изначально он и собирается так сделать, не причинив человеку вреда. Первый закон не нарушен. Но во время полёта камня робот меняет своё решение. Он решает не спасать человека, и тот умирает.
– Нам известен этот парадокс, – ровным голосом сообщил Березин.
– В таком случае, я собираюсь его опровергнуть, – улыбнулся Олег.
По залу прокатился гул изумления.
– Существует ситуация, в которой робот даже с облегченным первым законом не способен умышленно причинить вред человеку. Это когда робот не знает о существовании человека. Механизм реализации этого действия таков. Подсознание получает информацию об окружающем мире и анализирует её на предмет наличия там человека. Существует подпрограмма, на основании семидесяти трех показателей определяющая человека. Псевдоинтеллект будет получать данные только о тех объектах, про которые подпрограмма сказала, что это «не человек». А все данные об объектах «человек» заносятся в отдельный буфер, и каждое действие робота «подсознание» проверяет на предмет нанесения вреда жизнедеятельности человека. Первый закон Азимова реализован.
– Кхм-кхм, интересная трактовка, – улыбнулся Березин. – Но если робот не знает о существовании человека, то как вы намерены реализовать второй закон?
– Ключевое слово, – ответил Олег. – Когда человек произносит определенный ключ, «подсознание» на него реагирует и передает псевдоинтеллекту устойчивое желание выполнить просьбу человека. Алгоритмизацию же третьего закона мистер Доулинг сообщил неделю назад. «Подсознание» просчитывает, как скоро будет нарушено функционирование робота и, если этот срок превышает гарантию, то игнорирует причиняемый роботу вред. Мистер Доулинг, теперь вы поняли, чем моя концепция отличается от проекта «совесть»?
– Полагаю, он понял, – ответил за Доулинга Березин. – И горит желанием продолжить сотрудничество с нами в течение следующих десяти лет.
Спустя полгода первая модель робота с псевдоинтеллектом прошла полевые испытания. Программное обеспечение работало без сбоев, робот надежно контролировался законами Азимова. В самом конце испытания Ирвин К. Доулинг, проверяя возможности псевдоинтеллекта, произнес ключевое слово:
– Человек.
Робот повернулся в сторону