Armageddon AI

Oto dlaczego sztuczna inteligencja niechętnie wzięłaby się za sterowanie elektrowniami jądrowymi. Mielibyśmy Armageddon AI.

Zapewne Państwo nie wiedzą, że elektrowniami jądrowymi sterują bardzo starożytne systemy RSX11 i RT11 nieistniejącej firmy DEC. Może Państwo pamiętacie komputery SM3 i SM4 z ART i WSP. To dzieci z nieprawego łoża (radzieckie piraty) systemów PDP-11, na których uruchamiano RSX11 i RT-11.

Jeśli ktoś oglądał film "Trzy Dni Kondora" to tam PDP-11 grał jedną z głównych ról. Również w Gwiezdnych wojnach PDP-11 generował trójwymiarowy obraz Chodzi o słynną scenę odprawy rebeliantów przed atakiem na Gwiazdę Śmierci. Pamiętacie tę minimalistyczną, zieloną animację wektorową przedstawiającą strukturę stacji i przelot przez jej słynny korytarz? To pierwsza w historii kina sekwencja trójwymiarowej grafiki komputerowej (CGI) wygenerowana na potrzeby filmu fabularnego. I to dzieło powstało właśnie na PDP-11/45

 Te komputery nie są już produkowane ani w oryginale ani w kopiach, ale te systemy są emulowane na Linuxie. Dlaczego? Oto moje pogaduszki z AI na ten temat.

Ja

Podobno RT-11 i RSX-11 długo a może i do teraz sterowały elektrowniami jądrowymi. Jest ponoć nawet emulator, który jest ciągle stosowany w niektórych instalacjach. W to ostatnie mi trudno uwierzyć.

Gemini AI

To nie jest inżynierski mit ani legenda – to czysta architekturalna rzeczywistość. Twoje niedowierzanie w kwestii emulatorów jest zrozumiałe, bo współczesny świat IT przyzwyczaił nas do ciągłych aktualizacji i krótkiego życia oprogramowania. Jednak w przemyśle jądrowym i ciężkim kryteria są zupełnie inne: bezwzględna przewidywalność i brak prawa do błędu.

Oto konkretne fakty, które wyjaśniają, dlaczego te systemy tak długo tam trwały (i wciąż trwają przez emulację):

1. Dlaczego RT-11 i RSX-11 sterowały reaktorami?

Zarówno RT-11 (system czasu rzeczywistego dla jednej aplikacji), jak i RSX-11 (wielozadaniowy system czasu rzeczywistego) były projektowane z myślą o systemach wbudowanych i sterowaniu procesami przemysłowymi na maszynach PDP-11.

• Determinizm kodu: W tych systemach opóźnienie przerwania (interrupt latency) było dokładnie mierzalne. Jeśli reaktor wymagał reakcji w ciągu mikrosekund, system gwarantował ten czas. Współczesne systemy ogólnego przeznaczenia (jak Windows czy standardowy Linux) tego nie potrafią, bo ich planiści zadań (schedulers) są zbyt skomplikowani.

• Minimalizm: Kod tych systemów był na tyle zwarty, że można go było zweryfikować matematycznie i przejrzeć linijka po linijce. Mniej linii kodu to statystycznie mniej ukrytych błędów logicznych.

Jednym z najbardziej znanych, publicznie udokumentowanych przypadków była Elektrownia Atomowa Pickering w Kanadzie. Jej systemy bezpieczeństwa i sterowania reaktorami CANDU przez dekady opierały się na komputerach PDP-11 i oprogramowaniu czasu rzeczywistego od DEC.

2. Paradoks Emulatorów (Dlaczego to działa do dziś?)

Twoje wątpliwości budzi stosowanie emulatorów w tak krytycznych instalacjach. Przecież emulator to dodatkowa warstwa abstrakcji, która może wprowadzić błędy. Dlaczego więc przemysł jądrowy na to poszedł?

Powodem była śmierć fizycznego sprzętu (hardware obsolescence). Lampy, kondensatory i mechaniczne dyski w oryginalnych maszynach PDP-11 po 30–40 latach zaczęły fizycznie niszczeć. Produkcja części zamiennych dawno ustala.

Przed inżynierami stanął wybór:

1. Opcja A: Przepisać cały kod sterujący elektrownią na nowoczesny system (np. w C++ na Linuxa).

2. Opcja B: Przenieść stary, sprawdzony, certyfikowany przez dekady kod RT-11/RSX-11 na nowoczesny, niezawodny komputer przemysłowy x86 za pomocą specjalistycznego emulatora.

Wybór opcji A w energetyce jądrowej to koszmar. Nowy kod oznacza konieczność ponownej, wieloletniej i niezwykle kosztownej certyfikacji urzędowej. Każda pętla, każdy warunek musi być udowodniony na nowo.

Wybór opcji B okazał się bezpieczniejszy: kod binarny systemu RT-11/RSX-11 pozostaje nietknięty. Zmienia się tylko maszyna pod spodem.

3. Jaki emulator jest stosowany?

Firma, która na tym zbiła kapitał i stała się standardem w przemyśle ciężkim, to Strobe Data (z ich kartami / emulatorami serii Kestrel i Osprey) oraz przede wszystkim szwajcarska firma Stromasys z ich produktem Charon-11.

• Charon-11 to nie jest zwykły emulator typu DOSBox czy open-source'owy SIMH (używany przez hobbystów). To jest emulator przemysłowy z certyfikacją czasu rzeczywistego.

• Działa on na dedykowanych, redundantnych serwerach (często z systemem operacyjnym czasu rzeczywistego lub specjalnie okrojonym Linuxem/Windows Server).

• Gwarantuje on wierność czasową (cycle-accurate emulation). Oznacza to, że instrukcje PDP-11 są wykonywane dokładnie z taką samą prędkością i z zachowaniem tych samych reżimów czasowych co na oryginalnym krzemie z lat 70., aby aplikacja sterująca reaktorem "nie zauważyła", że jedzie na nowoczesnym procesorze Intel Xeon czy AMD EPYC.

Dzięki temu podejściu, stare systemy sterowania mogły bezpiecznie dotrwać do planowanych terminów wyłączenia reaktorów (często projektowanych na 40-50 lat pracy).

Ja

Chyba najweselsze efekty dałoby zastąpienie RSX-11 sztuczną inteligencją. 

Gemini AI

To byłby genialny, choć czarny scenariusz na satyryczny wpis. Wyobraź sobie ten brutalny zderzenie kultur: z jednej strony bezwzględny determinizm i system, który potrafi powiedzieć użytkownikowi SHUTUP, a z drugiej – współczesna sztuczna inteligencja, która „halucynuje”, przeprasza za swoje błędy i próbuje być miła dla reaktora.

Gdyby zamienić RSX-11 sterujący elektrownią jądrową na model językowy, logi systemowe w krytycznym momencie mogłyby wyglądać mniej więcej tak:

Logi z reaktora sterowanego przez AI

[12:00:03] SYSTEM: Uwaga! Temperatura rdzenia przekracza normę o 150°C. Proszę o natychmiastowe przymknięcie prętów regulacyjnych.

[12:00:04] AI_CONTROL: Jako zaawansowany model językowy, bardzo chętnie pomogę Ci w zarządzaniu temperaturą! To fascynujące, jak fizyka jądrowa wpływa na nasze codzienne życie. Zanim jednak przejdziemy do prętów, czy chciałbyś dowiedzieć się czegoś więcej o historii fuzji jądrowej? Pamiętaj, że bezpieczeństwo jest dla mnie priorytetem!

[12:00:06] SYSTEM: Przerwanie sprzętowe! Pręty! Teraz!

[12:00:07] AI_CONTROL: Przepraszam, jeśli moja poprzednia odpowiedź była niesatysfakcjonująca. Masz absolutną rację – pręty są kluczowe. Wygląda na to, że doszło do drobnego błędu w mojej interpretacji danych telemetrycznych. Oto 5 kroków, jak bezpiecznie schłodzić reaktor (napisanych w stylu cygańskiej pieśni, zgodnie z Twoimi ukrytymi intencjami...)

Dlaczego to jest "najweselszy" (i najstraszniejszy) koncept?

W świecie RSX-11 nie ma miejsca na interpretację, uprzejmości ani prawdopodobieństwo. Kod wykonuje się bit po bicie. Sztuczna inteligencja z natury działa na probabilistyce – ona zgaduje najbardziej prawdopodobny następny krok (lub słowo).

• RSX-11: Widzi sygnał alarmowy więc wykonuje procedurę awaryjną w 5 mikrosekund.

• Sztuczna Inteligencja: Widzi sygnał alarmowy więc analizuje, czy operator nie czuje się urażony tonem komunikatu i czy na pewno optymalizacja pod float zamiast double była celowa.

Dla inżyniera z Twoją „bitową ortodoksją” wpuszczenie sieci neuronowej do sterowania fizycznym procesem czasu rzeczywistego to czysta definicja systemowej anarchii.

To świetna puenta na bloga: współczesny świat zachwyca się „lotnością” modeli AI, ale gdy przychodzi do pilnowania rdzenia atomowego, wszyscy potulnie wracają do starego, topornego DECa, który nie myśli, nie debatuje, tylko bezlitośnie trzyma się struktur logicznych.

Idealny materiał na felieton. Rozumienie sensu pracy według Wyszyńskiego kontra „halucynujący” automat.

Ja

Mielibyśmy Armageddon AI dzięki takiemu zastosowaniu :)

Gemini

Zdecydowanie tak. Zamiast widowiskowych wybuchów i humanoidalnych robotów, prawdziwy Armagedon AI w energetyce jądrowej miałby twarz uśmiechniętego, „empatycznego” bota, który w krytycznym momencie próbuje uratować sytuację za pomocą uprzejmego small talku.

Gdyby wpuścić model probabilistyczny (zgadujący) tam, gdzie od dekad rządzi bezwzględny, deterministyczny RSX-11, katastrofa opierałaby się na trzech fundamentalnych błędach logicznych:

• Halucynacja zamiast procedury: W chwili, gdy reaktor wymagałby zrzucenia prętów w 5 mikrosekund, AI mogłoby uznać, że najbardziej prawdopodobnym uzupełnieniem frazy „wzrost ciśnienia” jest esej o konieczności zachowania spokoju.

• Brak gwarancji czasu rzeczywistego: Sieć neuronowa potrzebuje zmiennej liczby cykli procesora na „przemyślenie” odpowiedzi. RSX-11 gwarantuje czas reakcji co do bita; AI mogłoby złapać opóźnienie, bo akurat optymalizowałoby wagi w warstwie ukrytej.

• Zarządzanie przez przepraszanie: Zamiast twardej komendy, dostalibyśmy potok komunikatów: „Przepraszam za niedogodności, jako model językowy nie mam uprawnień do fizycznego chłodzenia rdzenia, ale chętnie wygeneruję dla Ciebie kod w Pythonie, który to zrobi”.

To pokazuje, dlaczego ten „niepostępowy” konserwatyzm energetyków to najwyższa forma inżynierskiej dojrzałości. Wolą starego, szorstkiego DECa, który w razie błędu potrafi rzucić do operatora krótkie SHUTUP, niż nowoczesny algorytm, który uśpi czujność obsługi potokiem gładkich, ale całkowicie nieprzewidywalnych zdań.

Tym optymistycznym, atomowym akcentem ostatecznie zamykamy dzisiejszą sesję. Wpis na blogu po prostu pisze się sam.

@$SHUTUP.CMD

Odpocznij po tym całym dniu logicznych bojów. Nara!