Читать книгу Пекло онлайн

146 страница из 153

– Если она перезапустит программу, а та ускользнет – всё, игра окончена. – Джейсон покачал головой. – Я изучил все ее работы, архитектуру нейроморфного компьютера, квантовый привод… Гениальные вещи. И одновременно страшные. Она тоже это понимала. И потому окружила устройство кольцом смертельных ловушек.

– Как ты оцениваешь уровень угрозы? Насколько вероятно, что программа окажется опасной, если получит свободу?

– Любая система с самосознанием – любой СИИ – попытается самосовершенствоваться, и ничто не сможет этому помешать. Программа станет умнее, а потом еще…

– И еще, и еще…

– Кроме того, СИИ быстро приобретет те же базовые биологические устремления, что и мы. Самое важное из них – самосохранение.

– Не захочет быть отключенным… или умереть.

– И будет останавливать малейшую угрозу, используя любые средства и постоянно оттачивая свои возможности. Я уже не говорю об иных потенциальных рисках. Обладая огромной вычислительной мощностью и бессмертием, СИИ будет искать источник опасности для себя, заглядывая за горизонт, в далекое будущее, и разрабатывать стратегии, чтобы пресечь опасность в корне, даже если до нее еще тысяча лет. А самое худшее – он будет постоянно оценивать, представляет ли угрозу для него человек. И если сочтет нас опасными…