Загибель Уранії
Шрифт:
«Крихітка» — машина універсальна. Її сяжки обладнані газовими різаками, пилками, гайковертами. Тепер усі ці інструменти пущено в хід. Рухи споруди надзвичайно злагоджені, точні. Вона діє не навмання, а насамперед знищує пристрої керування своєї жертви.
— Що ти робиш, клята?! — блідий інженер Дейв ледве стримується, щоб не вигукнути в мікрофон беззаперечну команду «Стоп!».
— Не хвилюйтесь, Дейв… — директор інституту зосереджений, але спокійний. — Коли вона почала виявляти схильність до агресивності?
— Днів три тому. Обминаючи перешкоди, вона поповзла просто на нас з братом.
— Руйнування?.. — директор з сумнівом похитав головою. — А що робить «Крихітка» з деталями зруйнованих машин?
— Не знаю, бо не дозволяв їй руйнувати.
— Ну, то зараз побачимо.
«Крихітка» продовжувала свою справу. Швидко й упевнено вона розбирала машину на складові частини, пошкоджені деталі викидала геть, а придатні — дбайливо сортувала. За якусь годину від складної злагоди лишився голий металевий кістяк та купи залізяччя, дротів, пластмаси.
Власне, нічого незвичайного в діях «Крихітки» досі не було. Ще при побудові інженер Дейв вклав у електронну пам'ять споруди програму демонтажу першої-ліпшої машини за спеціальним наказом. Але що ж вона робитиме далі?
«Крихітка» завмерла. Здавалося, вгамувавши жадобу руйнування, вона заспокоїлась. Проте мікрофони доповіли: реле-перемикачі споруди клацають дедалі інтенсивніше, а на дубляжній схемі в кабіні спостереження індикатори кожної ділянки електронного мозку злагоди сяють яскраво. Який процес аналізу й синтезу відбувається зараз у ньому? Які нові команди записуються на барабани пам'яті? Визначити це вже не можна. Споруда вийшла з-під контролю свого творця, вона — «збожеволіла».
Ні, машина не мислить і свідомості не має. Та хіба є свідомість у хробака чи комахи? А вони ж виконують складні цілеспрямовані дії, породжені й удосконалені важким і тривалим процесом еволюції. То, може, і машинні рефлекси кібернетичної «Крихітки» зараз перебудовуються в напрямку найбільшої доцільності?
Інженер Дейв сподівався чогось надзвичайно хорошого. Але самостійно вироблена програма електронного мозку споруди була просто неймовірною: «Крихітка» почала розбирати сама себе. Гайковерти та клешні-затискачі зняли захисний кожух апаратури, в схему посунулись сяжки, обладнані електричними паяльниками.
На дубляжній схемі в кабіні спостереження один по одному згасали індикатори каскадів злагоди. Їх понад п'ятдесят тисяч, і втрата кількох десятків з загальної кількості ще нестрашна. Але ж, кінець кінцем, настане мить, коли електронний мозок зазнає непоправної шкоди… Що ж буде тоді?
Два протилежні почуття борються в душі інженера Дейва: бажання довести до кінця незвичайний експеримент і побоювання за злагоду, на побудову якої витрачено так багато зусиль. Коли б не директор інституту, конструктор давно б уже припинив оце саморуйнування машини.
— Професоре!.. — Дейв схопився, стиснув кулаки. — Далі не можна чекати… Вона добирається до кнопки «Стоп»!
— Мовчіть! Пильнуйте! — директор такий збуджений, що втратив свою звичайну витримку. — Дивіться і запам'ятовуйте на все життя! Зараз у цьому боксі народжується машина вищого класу — «Машина Дейва».
Дейв сердито засопів, але не заперечив. Це — загибель «Крихітки». Досить їй вимкнути кнопку «Стоп!», ту ділянку електронного мозку, яка блокує всю схему, і споруда вийде з-під контролю людини повністю. Енергії атомного реактора вистачить «Крихітці» надовго. Вона робитиме все, що їй заманеться, не підпустить до себе нікого. І її доведеться, кінець кінцем, знищити.
— Нічого не розумію, професоре… — збентежено сказав Дейв. — Я породив механічного хижака. Хибність конструкції «Крихітки» — безперечна…
— Яку програму ви дали «Крихітці»? За всяку ціну боротися за своє, так би мовити, існування? Це означає: усувати всі перешкоди, протистояти всякому небажаному впливу. Кнопка «Стоп!» для електронно-обчислювальної злагоди — найсильніший небажаний подразник. Яку б програму не виробив її електронний мозок, ви можете в першу-ліпшу мить втрутитись і порушити весь хід машинних рефлексів. Тож чи не природно, що, кінець кінцем, процес логічного аналізу привів «Крихітку» до висновку про необхідність викинути кнопку «Стоп!»?
— Розумію, професоре! — Дейв кинувся до схеми, гарячково перебіг очима основні вузли. — Отже, коли так, «Крихітка» з часом розвиватиметься, так би мовити, розумнішатиме?
— Гай-гай… — професор з жалем похитав головою. — Мабуть, вона так і лишиться хижаком, бо ви прирекли її на таку долю… Чого можна чекати від неї в майбутньому? Хіба того, що набуті нею примітивні машинні рефлекси удосконаляться до найвищого ступеня, та й годі.
— То що ж робити?
— Та що ж… — професор замислився. — Треба підвищувати «інтелект» машини. П'ятдесят сім тисяч каскадів — ніщо. Їх потрібно мати хоча б мільйон. При такій кількості елементів «егоїзм» злагоди вашого типу стане доцільним. Але ж ви розумієте самі: зараз це — неможлива річ. Обсяг і вага електронного мозку машини перейдуть всякі межі. Монтаж перетвориться на майже нездійсненну справу. Навіть коли використати друковані схеми каскадів, їх доведеться з'єднувати неймовірним плетивом дротів…
Уже давним-давно пішов директор інституту, порозходилися працівники лабораторії, а Дейв усе ще сидів у кабінеті спостереження, задумливо дивлячись у просторінь. Піднесення, яке охопило його після несподіваної похвали вчителя, було короткочасним і поступово змінилось пригніченням. Учитель поквапився з висновком. «Машини Дейва» ще немає, і невідомо, коли вона буде.
Інженер поглянув в ілюмінатор. Бідолашна «Крихітко», які ще машинні рефлекси снуються зараз у твоєму примітивному електронному мозку? Яка шалена програма дій записується на твоїх барабанах пам'яті?
«Крихітка» мовчала. Вона була всього-на-всього електронним пристроєм для розв'язування логічних задач. Хоч якими доцільними видаються її ідеї, мислити ця споруда не може. За неї мислив свого часу інженер Дейв. Його думка знайшла втілення в кібернетичній конструкції і продовжує жити в ній, набуваючи зовсім несподіваного й небажаного напрямку.
— Стривай, стривай!.. — Дейв глянув на «Крихітку» навіть трохи злякано.
Кожна людина має підставу вважати, що частка її розуму втілюється в зробленому нею. Але ж у даному разі йдеться про значно більше. Творча думка конструктора кібернетичної машини вищого класу житиме в електронній злагоді навіть після смерті її творця…