No nie na jedno wychodzi, bo cel może być dowolny, bardzo szczytny i humanitarny nawet.
Prędzej czy później AI będzie wykorzystywana we wszystkich procesach optymalizacyjnych, gdzie nie wystarcza "standardowy" algorytm. Obawy są dwojakiego typu: pierwsza, o której pisałem, czyli zwykła, nieświadoma AI, na którą nie nałożono wystarczających ograniczeń, czy to w funkcji celu, czy w możliwościach wykonawczych. Druga dotyczy możliwego zyskania "świadomości" i autonomicznego stawiania sobie celów. W tę akurat nie wierzę, ale kto wie... W każdym razie, zanim nas AI rozpierdaczy, dużo dobrego zyskamy - zwłaszcza w medycynie: diagnostyka czy konstruowanie leków dalece przewyższy to, co są w stanie osiągnąć białkowcy. Zresztą to się już dzieje.