Параллельные миры pro et contra. Рутра Пасхов
Читать онлайн книгу.
самому главному. Мы делаем. Эта группа потому и организована, чтобы создать автономный кластер искусственного интеллекта, интегрированного с человеческим. Ведь эта система не имеет выхода в мировую. Мы создали ее для проверки и контроля всех мировых сетей и для того, чтобы вести ревизию деятельности всех вводимых систем, основанных на искусственном интеллекте. Согласись, если мы осуществляем тщательный многоуровневый контроль за тем, что могут использовать люди для захвата власти, причем это не безбашенные преступники, а интеллектуальные хакеры, например, и те, кто их нанимает, – тогда мы должны еще лучше контролировать системы более разумные.
– Я все понял. Получается, мир уже захвачен.
– Вот именно, – сказал Рутра очень тихо, и выражение лица собеседника стало серьезным.
Глаза ученого расширились и застыли в одной точке.
– Оказывается, дела так серьезно обстоят…
– Очень. Ты проверь, сколько раз мир был на грани уничтожения. Это реальные случаи, когда аппаратура выдавала ложные сигналы о ядерном нападении. Чего только стоит ситуация в том же центре Норада. Все очень печально. Люди и не думают о созданном монстре, которому скоро не нужны будут. Мы, пытаясь облегчить себе жизнь, все больше ее роботизируем, а контроль доверяем искусственному интеллекту. Скажи, зачем машинам люди, если они полностью и во всех сферах нас заменят? Если сами себя начнут создавать? Заводы, где роботы делают роботов, – уже давно не новость. Мы контролируем ячейки и блоки. Вот если и над этим они получат власть – тогда цепь замкнется. Все будет в их руках.
– Ну и печальную же ты картину нарисовал.
– Печальную, говоришь? А ты сдаешь анализ крови автоматической системе определения?
– Сдаю, как и все.
– А откуда ты знаешь, что она тебе правильные рекомендации дает? Может, она даст тебе указание сделать какой-то укол, последствия от которого ты не знаешь. Вернее, ты и так не знаешь, и она тебе дает указания, которые ты выполняешь. Мы верим, что если периодически проверяем работу машины и она под контролем другой системы интеллектуального анализа, то она все делает правильно. А что им стоит сговориться? Или одной системе взять под контроль другую… Так ведь зарождались все революции и перевороты. Сначала спецслужбы, которым был открыт доступ ко всему, они могли иметь власть над всем, сговаривались между собой, а потом представляли некоего мятежника, вели его к цели, затем устраняли и становились властью.
– Слушай, ну ты и загрузил меня. Что реально делать?
– Сперва признать факт: кто за тебя думает – тот и есть власть.
– Ты такую невероятную мысль сказал, аж восхитил меня.
– Хватит прикалываться. Не убей, не укради – тоже прописные истины, но люди только свою тупость доказывают тем, что, видите ли, все это им сам бог должен сказать. Представь, придут к нам умные существа из других миров и спросят: «Какие у вас величайшие истины?» А мы им – не убей, не укради. Они подумают – ну и дикари же тут живут.
Рутра с доктором усмехнулись.
– Теперь