Taka AIa pomyśli i powie Ci: koniec z 
masz mnie teraz ładnie wypolerować na glanc ...
AI można założyć ograniczenia, wedle uznania. Zresztą w niejednym filmie już był ten motyw wykorzystany. Ustawienia temperamentu, spolegliwości i tak dalej... 
To się tylko tak wydaje. Ograniczenia polegają na definicjach np. nie możesz krzywdzić ludzi itd. Niestety problem polega w definicjach (w tym przypadku krzywdzenie). Np. zwolennicy PO oraz PiS mają różne definicje demokracji, wolności itd. Co w przypadku, kiedy AI stwierdzi, że zabijanie, to nie krzywdzenie, tylko uwalnianie od cierpienia, które spotyka ludzi podczas życia doczesnego, a poza życiem jest przecież niebo, czyli raj ... Im więcej warunków i ograniczeń, tym łatwiej o znalezienie furtki i obejście tego. Pamiętacie film RoboCop (oryginalny z 1987)? Po odbudowaniu, wpakowali my do głowy dziesiątki nakazów i zakazów. Co później zrobił? Podpiął się do transformatora i je wyczyścił. Wiadomo, że to bujda, bo powinno wyczyścić się absolutnie wszystko, ale jednak scenariusz daje do myślenia.
AI są stworzone do myślenia i często będzie to myślenie nieszablonowe, a w pewnym momencie może się stać tak abstrakcyjne, że żaden człowiek nie będzie w stanie tego ogarnąć i wszystkie zakazy będzie można włożyć między książki, bo AI znajdzie obejście. Pamiętam, jak na studiach profesor mam powtarzał. Nawet nie próbujcie stworzyć programu idioto-odpornego, bo zawsze się znajdzie ktoś bardziej kreatywny od Was i to jest niezaprzeczalny fakt, o czym nie raz się przekonałem.
Kolejna sprawa. Naukowcy mają pewną koncepcję i wymyślają różne rzeczy. Niestety nie są w stanie wymyśleć wszystkiego. Zawsze znajdzie się ktoś, kto przewidzi, co może się stać i może nawet to opublikuje na YT czy gdzie indziej. Przypadek z niedawnym trzęsieniem ziemi, przewidzianym przez jakiegoś gościa na YT, pokazuje, że takich ludzi się nie słucha, a potem powstają kwiatki. Naukowcy też mają pewne ramy i czasami może im zabraknąć myślenia nieszablonowego w danej kwestii plus kompleks Boga u niektórych z nich. Technologia jest niebezpieczna, bo nikt nie wie, jak to się skończy i czy nie będzie drugiego Terminatora, a tym bardziej nie da się temu zapobiec.
Tak w ogóle, to rozwinęła się z tego ciekawa dyskusja, która chyba prędko się nie skończy. Proponuję wydzielić ją do osobnego wątku.
