Najlepsze jest to, że nam "wdrukowano" do głów, że AI musi osiągnąć świadomość i wtedy będzie przejebane. Nie musi osiągać żadnej świadomości. Bez tego może działać samowystarczalnie, zgodnie z zadanymi algorytmami oraz takimi, jakie sama sobie z czasem wprowadzi. Czy taka, nie wiem... mrówka jest świadoma? A ile rzeczy może zrobić?
Fajnie to było przedstawione w jednym z odcinków Pop-Science. Jakoś tak to leciało:
Możemy zlecić AI zadanie jak najdokładniejszego obliczenia liczby PI. I ona będzie robić wszystko, by tego dokonać. Będzie pożerać coraz więcej zasobów, jeśli coś jej przeszkodzi, to to usunie (np. nas...), gdy zaczną się kończyć zasoby na Ziemi, to stworzy odpowiednie technologie, by czerpać je w kosmosie... Zużyje całą energię naszego Słońca i ruszy dalej. Wszystko po to, by wykonywać pierwotnie polecone zadanie.
To jest oczywiście dość utopijna wizja, jednak należy sobie zdać sprawę, że parcie do wyznaczonego celu nie jest wcale związane ze świadomością. Tylko się nam tak wydaje. Nieświadoma AI będzie dla nas zachowywać się bardzo świadomie. Nie do odróżnienia od świadomej istoty myślącej.
