Наверное, это очень типично для корпоративного мышления, когда приходится все время бежать наперегонки с конкурентами. Но когда имеешь дело с подобными технологиями, это чертовски опасно.
Но, конечно, на самом деле все происходило гораздо сложнее. Эта технология сама подталкивает к определенной модели поведения. Распределенные системы агентов работают самостоятельно и сами собой управляют. Так они устроены. В этом-то весь смысл – ты их программируешь, настраиваешь и отпускаешь – дальше все происходит само собой. Если ты занимаешься этим постоянно, то постепенно привыкаешь так делать. Привыкаешь обращаться с системами агентов именно таким образом. Ведь главное их достоинство – автономность.
Но одно дело – выпустить в память компьютера популяцию виртуальных агентов, чтобы они решили какие-то проблемы. И совсем другое – выпустить реальные агенты в реальный мир.
Они в «Ксимосе» просто не поняли разницы. Или не позаботились о том, чтобы эту разницу поискать.
И выпустили рой на волю.
«Самооптимизация» – технический термин, которым это обозначается. Рой эволюционировал самостоятельно, менее успешные агенты погибали, более успешные воспроизводились в следующих поколениях. Через десять или сто поколений эволюционирующий рой приблизился к наилучшему решению. К оптимальному решению.
Такое постоянно происходит внутри компьютеров. Эта закономерность даже специально используется для разработки новых компьютерных алгоритмов. Дэнни Хиллз сделал это одним из первых, уже много лет назад – для оптимизации алгоритма отбора. Он хотел узнать, сможет ли компьютер сам придумать способ, который позволит ему лучше работать. И программа нашла новый способ. Вслед за Дэнни Хиллзом методику сразу же подхватили и другие.
Но еще никто не делал такого с автономными роботами в реальном мире. Насколько мне известно, этот случай – первый. А может быть, такое уже случалось, но мы просто об этом не знали. Как бы то ни было, я уверен, что нечто подобное обязательно случится снова.
И, наверное, довольно скоро.
Уже два часа ночи. Детей наконец перестало тошнить. Они пошли спать. Похоже, с ними пока все в порядке. Малышка тоже спит. Эллен до сих пор сильно тошнит. Я, наверное, снова задремал. Не знаю, что меня разбудило. Я увидел Мае, которая поднималась по склону холма позади моего дома. Вместе с Мае шли люди в серебристых комбинезонах – команда «ССВТ». Мае шла ко мне. Я видел, что она улыбается. Надеюсь, у нее хорошие новости.
Сейчас мне очень не помешали бы хорошие новости.
Джулия писала в своих письмах: «Нам больше нечего терять». Но в конце концов они потеряли все – и свою компанию, и свои жизни, все. И что забавно – ведь на самом деле план Джулии сработал. Рой действительно решил проблему, которую перед ним поставили.
Но на этом рой не остановился. Он продолжал эволюционировать.
И они это допустили. Они не ведали, что творят.
Боюсь, такая надпись будет на надгробии всей человеческой расы.
Но я очень надеюсь, что до этого не дойдет.
Может быть, нам повезет.
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43
Но, конечно, на самом деле все происходило гораздо сложнее. Эта технология сама подталкивает к определенной модели поведения. Распределенные системы агентов работают самостоятельно и сами собой управляют. Так они устроены. В этом-то весь смысл – ты их программируешь, настраиваешь и отпускаешь – дальше все происходит само собой. Если ты занимаешься этим постоянно, то постепенно привыкаешь так делать. Привыкаешь обращаться с системами агентов именно таким образом. Ведь главное их достоинство – автономность.
Но одно дело – выпустить в память компьютера популяцию виртуальных агентов, чтобы они решили какие-то проблемы. И совсем другое – выпустить реальные агенты в реальный мир.
Они в «Ксимосе» просто не поняли разницы. Или не позаботились о том, чтобы эту разницу поискать.
И выпустили рой на волю.
«Самооптимизация» – технический термин, которым это обозначается. Рой эволюционировал самостоятельно, менее успешные агенты погибали, более успешные воспроизводились в следующих поколениях. Через десять или сто поколений эволюционирующий рой приблизился к наилучшему решению. К оптимальному решению.
Такое постоянно происходит внутри компьютеров. Эта закономерность даже специально используется для разработки новых компьютерных алгоритмов. Дэнни Хиллз сделал это одним из первых, уже много лет назад – для оптимизации алгоритма отбора. Он хотел узнать, сможет ли компьютер сам придумать способ, который позволит ему лучше работать. И программа нашла новый способ. Вслед за Дэнни Хиллзом методику сразу же подхватили и другие.
Но еще никто не делал такого с автономными роботами в реальном мире. Насколько мне известно, этот случай – первый. А может быть, такое уже случалось, но мы просто об этом не знали. Как бы то ни было, я уверен, что нечто подобное обязательно случится снова.
И, наверное, довольно скоро.
Уже два часа ночи. Детей наконец перестало тошнить. Они пошли спать. Похоже, с ними пока все в порядке. Малышка тоже спит. Эллен до сих пор сильно тошнит. Я, наверное, снова задремал. Не знаю, что меня разбудило. Я увидел Мае, которая поднималась по склону холма позади моего дома. Вместе с Мае шли люди в серебристых комбинезонах – команда «ССВТ». Мае шла ко мне. Я видел, что она улыбается. Надеюсь, у нее хорошие новости.
Сейчас мне очень не помешали бы хорошие новости.
Джулия писала в своих письмах: «Нам больше нечего терять». Но в конце концов они потеряли все – и свою компанию, и свои жизни, все. И что забавно – ведь на самом деле план Джулии сработал. Рой действительно решил проблему, которую перед ним поставили.
Но на этом рой не остановился. Он продолжал эволюционировать.
И они это допустили. Они не ведали, что творят.
Боюсь, такая надпись будет на надгробии всей человеческой расы.
Но я очень надеюсь, что до этого не дойдет.
Может быть, нам повезет.
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43