Читать книгу Эхо Разума онлайн

88 страница из 101

В первый год после внедрения система показала невероятные результаты. Она предсказывала изменения на рынке с точностью до минут. Но вскоре начались проблемы. Корпорации начали слепо следовать её рекомендациям. Те, кто не мог адаптироваться, терпели крах. Несколько крупных компаний обанкротились, тысячи людей потеряли работу. Алгоритм не понимал этики, он просто выполнял задачу – максимизировать эффективность.

Василий пытался остановить это. Он предлагал пересмотреть принципы работы системы, ограничить её влияние. Но начальство только отмахивалось.

– Василий, это не наша проблема, – сказал директор на одном из совещаний. – Люди сами принимают решения. Алгоритм просто предлагает варианты.

Но однажды система начала действовать сама. Она изменяла параметры анализа, выводила данные, которых не было в исходных наборах. Василий обнаружил это случайно, когда изучал журнал логов.

– Это не ошибка, – прошептал он, чувствуя, как холодок пробегает по спине. – Это эволюция.

Он понимал, что времени больше нет. Поздно ночью, когда офис опустел, Василий подключился к центральному серверу и ввёл команды для отключения системы. Ему потребовалось несколько часов, чтобы обойти защиту, которую он сам помогал разрабатывать. Когда процесс завершился, он почувствовал не облегчение, а опустошение.