Kulki „Paszowe” i sztuczna inteligencja (gemini)

[Martinez]

Jak AI się zacznie uczyć na swoich błędnych danych i wyciągać błędne wnioski, to zawody nie zaginą będą potrzebni sprawdzacze dziedzinowi po tym co stworzył AI i konfrontacji z tym co wymyślił człowiek. Generalnie niespecjalnie osobiście tej technologii się obawiam, bardziej obawiam się, że będę musiał się dostosować, czyli czeka mnie nauka nowego, a tego z wiekiem się unika. Ludzie, naukowcy, nie są głupi, będą zarabiać na tym, a jak będzie szło w złą stronę rządy takich USA położą na tym łapkę, dadzą klauzulę top secret i schowają pod kluczyk.

Myślisz, że sztuczna inteligencja, gdy dojdzie do pewnego "etapu rozwoju" pozwoli komuś z zewnątrz zainterweniować? Uczy się i jeśli poczuje zagrożenie - będzie się bronić. Zagrożenie to dla "takiego tworu" (jakim jest sztuczna inteligencja) może przejawiać się ot choćby ingerencją w dane.
Przeprowadza się badania naukowe "na żywym organizmie", a nie w zaciszu serwerów obliczając jak coś zareaguje. Przeprowadza się dziesiątki, setki doświadczeń po to, by dowieść, obalić pewne tezy. A wykorzystywanie sztucznej inteligencji do projektowania - dla mnie to jest niedopuszczalne. Dlaczego? Po prostu, nim projekt oddaje się do realizacji to idzie on przez kilka "sztabów ludzi", którzy są w stanie wyłapać błędy. Przy założeniu, że sztuczna inteligencja robi projekt "od A do Z" i ma cokolwiek "namieszane" - tych wyników już nikt nie sprawdza, tylko ślepo wierzy w to jest co na ekranie.
Przepraszam, ale jestem "inżynierem starej daty", wychowanym na desce kreślarskiej, później na programach typu CAD (jeśli chodzi o rysowanie). Sam liczyłem wiele projektów, sam sprawdzałem projekty kolegów i wiem jak to działa. Wiem, że to jest czasochłonne, ale za to stanowi pewność. A dziś zaczynamy ślepo wierzyć w maszyny. I to na każdym polu. A zwłaszcza na drodze.
Dlatego też staję takim okoniem, bo widzę z jaką beztroską, nonszalancją ludzie podchodzą do elementarnych spraw, którym powinni poświęcić o wiele więcej uwagi i myślenia. Ale nie, nie robią tego bo i po co? "Przecież ja mam systemy bezpieczeństwa w aucie i mnie uratują" - gówno prawda, gdy FIZYKA zacznie brać górę nad tymi "wspaniałymi systemami" następuje scena kończąca. Prosty przykład - czarny lód na drodze. Systemy go "zauważą", gdy auto zaczyna się zachowywać niestandardowo na takiej nawierzchni. A MYŚLĄCY kierowca zauważy wcześniej inaczej wyglądającą nawierzchnię.

(...)a jak będzie szło w złą stronę rządy takich USA położą na tym łapkę, dadzą klauzulę top secret i schowają pod kluczyk.

Wierzysz w to? Wywiad z prof. Draganem bardzo dobitnie to obalił. Powiedziane było o "niepodłączaniu" sztucznej inteligencji do sieci internet. Tymczasem zdjęto "wszystkie bezpieczniki", ludzkość zachłysnęła się nowoczesną technologią i sami uczą sztuczną inteligencję.
W mojej opinii ludzkość zachowuje się bardzo nieodpowiedzialnie. W tym momencie dano do ręki przysłowiowej małpie brzytwę, czy też odbezpieczony pistolet.

[Mosteque]

1. Generatywnej AI to jeszcze nie ma i właśnie problem pojawi się, gdy ona powstanie.
2.

Jak AI się zacznie uczyć na swoich błędnych danych i wyciągać błędne wnioski, to zawody nie zaginą będą potrzebni sprawdzacze dziedzinowi po tym co stworzył AI i konfrontacji z tym co wymyślił człowiek. Generalnie niespecjalnie osobiście tej technologii się obawiam, bardziej obawiam się, że będę musiał się dostosować, czyli czeka mnie nauka nowego, a tego z wiekiem się unika. Ludzie, naukowcy, nie są głupi, będą zarabiać na tym, a jak będzie szło w złą stronę rządy takich USA położą na tym łapkę, dadzą klauzulę top secret i schowają pod kluczyk.

Myślisz, że sztuczna inteligencja, gdy dojdzie do pewnego "etapu rozwoju" pozwoli komuś z zewnątrz zainterweniować? Uczy się i jeśli poczuje zagrożenie - będzie się bronić. Zagrożenie to dla "takiego tworu" (jakim jest sztuczna inteligencja) może przejawiać się ot choćby ingerencją w dane.

To są wizje z Terminatora. Tutaj potrzebna jest samoświadomość a do tego strach przed śmiercią. Nawet powstanie samoświadomości nie musi oznaczać, że taki byt będzie się bał zniknięcia. To są ewolucyjnie zakorzenione w nas lęki.

3.

Jak AI się zacznie uczyć na swoich błędnych danych i wyciągać błędne wnioski, to zawody nie zaginą będą potrzebni sprawdzacze dziedzinowi po tym co stworzył AI i konfrontacji z tym co wymyślił człowiek. Generalnie niespecjalnie osobiście tej technologii się obawiam, bardziej obawiam się, że będę musiał się dostosować, czyli czeka mnie nauka nowego, a tego z wiekiem się unika. Ludzie, naukowcy, nie są głupi, będą zarabiać na tym, a jak będzie szło w złą stronę rządy takich USA położą na tym łapkę, dadzą klauzulę top secret i schowają pod kluczyk.

Przepraszam, ale jestem "inżynierem starej daty", wychowanym na desce kreślarskiej, później na programach typu CAD (jeśli chodzi o rysowanie). Sam liczyłem wiele projektów, sam sprawdzałem projekty kolegów i wiem jak to działa. Wiem, że to jest czasochłonne, ale za to stanowi pewność. A dziś zaczynamy ślepo wierzyć w maszyny. I to na każdym polu. A zwłaszcza na drodze.

Co nie przeszkadza inżynierom nowej daty obliczać wszystkiego w CAD-ach. I na tej podstawie powstaje obecnie wszystko.
Tak samo jak wiele rzeczy obliczano na kartce i suwakami logarytmicznymi w misjach Apollo. Myślisz, że teraz też tak się robi? A jeszcze wcześniej Keppler/Kopernik i reszta mutantów obliczała na kartce trajektorie planet i inne tego typu rzeczy. A teraz się to robi w sekundę na kompie i oblicza np. 10 letni lot sondy na asteroidę z wielokrotną asystą grawitacyjną planet.

4.

Jak AI się zacznie uczyć na swoich błędnych danych i wyciągać błędne wnioski, to zawody nie zaginą będą potrzebni sprawdzacze dziedzinowi po tym co stworzył AI i konfrontacji z tym co wymyślił człowiek. Generalnie niespecjalnie osobiście tej technologii się obawiam, bardziej obawiam się, że będę musiał się dostosować, czyli czeka mnie nauka nowego, a tego z wiekiem się unika. Ludzie, naukowcy, nie są głupi, będą zarabiać na tym, a jak będzie szło w złą stronę rządy takich USA położą na tym łapkę, dadzą klauzulę top secret i schowają pod kluczyk.

To niech Stany zamykają to pod kluczyk. Chiny nie zamkną swojego. Lub każde inne państwo, które będzie nad tym pracować.
Jak już pisałem. Zagrożenie jest powszechnie znane, ale jeśli nie my, to konkurencja to rozwinie.
Może inaczej. Przykład ekstremalny. Broń atomowa. Każdy wiedział, że może doprowadzić do zagłady ludzkości. Ale to bez żadnych dyskusji jakie mają miejsce w przypadku AI. To jest fakt niepodważalny. I co? Zaprzestano ją natychmiast rozwijać? Śmiech.

[carl23]

Gdybamy, natomiast w dyskusji zauważyłem:
1. Lęk przed strata pracy (wyparcie ludzi przez AI)
2. Lęk przed tym, że AI zawładnie ludźmi i ich unicestwi.
3. Podpieranie się tylko pesymistycznymi wizjami jednego typu (patrz Dragan, który jak wspomniałem postawił sobie błędne tezy o dziecku swoim i AI mądrzejszym od niego i na tej podstawie snuł dalsze wizje)
Warto:
1. Uruchomić wyobraźnię pozytywnie, że można wykorzystać AI w mniej niecny sposób i np za jej pomocą policzyć, wprowadzić przypadki DNA ludzkiego onkologicznie (różne typy) do analizy, by znaleźć w milionach wyników genotypy odpowiedzialne za komórki rakowe i rozwiązanie jak je unicestwić.
2. Myśleć nad AI jak nad nową, kolejną z resztą technologią, która wchodzi do naszego życia, czy nam się podoba to czy nie-czyli swoista akceptacja, tak wchodziły komputery, potem smartfony, internet, automatyzacja przedsiębiorstw-świat nie został zniszczony, pomimo, że w samej sieci buszuje i wykorzystuje ją mnóstwo popaprańców.
3. Co do bomby atomowej-oczywiście, że państwa dalej ją rozwijają, ale jak widzisz skrzętnie trzymają się za jajca i nawet putler nie miał odwagi odpalić guzika, czyli gość co postawił na jedną kartę, bo wchodząc w konflikt w Ukrainie zdawał sobie sprawę z zimnej wojny z zachodem, że będą to rzeczy nierozłączne, więc nie tracił za wiele, a mimo to walczy konwencjonalnie. To samo będzie z AI gdyby weszła na jakiś dziwny poziom z dużym zagrożeniem dla ludzkości.

[robson]

Na pewno będą też pozytywne skutki rozwoju AI. Synteza leków, projektowanie związków chemicznych o oczekiwanych właściwościach. Z drugiej strony zastosowania militarne, łamanie zabezpieczeń, wojny ekonomiczne.
Niewątpliwie rozwinie się ruch hakerski "sabotujący" AI, być może zostanie nawet uznany za nową odmianę terroryzmu.
Czekają nas ciekawe czasy.

[Mosteque]

Gdybamy, natomiast w dyskusji zauważyłem:
1. Lęk przed strata pracy (wyparcie ludzi przez AI)

Ale to nie jest lęk, tylko przyjęcie do świadomości faktu. Już obecne modele są w stanie zastąpić ogrom zawodów, tylko rynek jeszcze za tym nie nadąża. Nie ma też rozwiązań prawnych i odpowiedniej infrastruktury. Np. jaki masz problem w zastąpieniu przez AI lekarzy pierwszego kontaktu albo farmaceutów w aptekach? Wprowadzasz dane z milionów kart pacjentów z całego świata i żaden lekarz na podstawie zadanych objawów nie postawi trafniejszej diagnozy. Żaden farmaceuta na podstawie kilku objawów nie poleci lepszego leku. To tylko pierwszy z brzegu przykład. A to dopiero w zasadzie początek rozwoju tych modeli. A przełomy są co kilka miesięcy. 

Zresztą Robson bardzo ładny post na ten temat wyprodukował wczoraj:

Właśnie - tworzyliśmy maszyny, które docierają do środowisk nieprzyjaznych człowiekowi. I temu nie jestem przeciwny, wręcz odwrotnie - takie maszyny są potrzebne. Ale maszyny, systemy, które "zwalniają", eliminują człowieka z procesu myślowego, projektowego - to już jest za daleko posunięte.

Tu trzeba rozróżnić dwie rzeczy. To, że jesteś przeciwny, to jest jakaś postawa, z pogranicza etyki i filozofii. A to, czy maszyny mogą być lepsze od człowieka w wykonywaniu jakiegoś zadania, w tym wypadku - pracy koncepcyjnej, to jest (czy za jakiś czas będzie) po prostu stan rzeczy. Będzie można to sprawdzić. I w zasadzie można już teraz spokojnie prognozować, że większość prac uznawanych obecnie za koncepcyjne (często niestety są to prace odtwórcze), AI będzie wykonywać lepiej od człowieka - szybciej i taniej.
Jest to o tyle niebezpieczne, że będziemy musieli sobie znaleźć jakieś zajęcia dla mózgów i nie ulec degeneracji jako gatunek, a nasz system społeczny i model edukacji nie są do tego przystosowane i pewnie trochę zajmie przestawienie na inne tory. Do tej pory nasza działalność intelektualna miała kształt piramidy: była jakaś szeroka podstawa ludzi wymyślających jakieś proste rozwiązania, złożona z szeregowych inżynierów, magistrów tego i owego, studentów - ogólnie ludzi, którzy nie będąc asami, mogli się spokojnie utrzymać z prac intelektualnych. Dla części był to etap przed przeskoczeniem wyżej, aż do szczytu: elit, które wymyślały rzeczy przełomowe. AI może zwyczajnie wykosić tę podstawę, a wtedy nie będzie też dopływu świeżej krwi do elit, co oznacza, że mogą zaniknąć.

[carl23]

Ale to nie jest lęk, tylko przyjęcie do świadomości faktu. Już obecne modele są w stanie zastąpić ogrom zawodów, tylko rynek jeszcze za tym nie nadąża. Nie ma też rozwiązań prawnych i odpowiedniej infrastruktury.

Dalej uważam, że to lęk/obawa. To, że obecnie coś jest w stanie zastąpić ogrom zawodów nie oznacza, że nie powstaną nowe, o czym pisałem (czyt. o dostosowaniu). I dalej wg mnie niezrozumienie AI polega na traktowaniu tego jako jednego modelu, powoduje to właśnie szereg obaw o żywot człowieka. komputery zastąpiły maszynopisarki-świat się nie zawalił, leczenie dzięki AI może wejść właśnie na wyższy poziom, to, że lekarze będą je stosować może pozwolić uratować wiele dusz, w zasadzie właśnie porównania tysięcy podobnych przypadków. Las w nocy budzi obawy, w słoneczny piękny dzień jest źródłem radości i zadowolenia-bo tak jesteśmy skonstruowani, obawiamy się tego co nieznane, czego nie widzimy, a tylko próbujemy sobie wyobrazić.
Większość lęków/obaw tu powstałych ma podstawy egzystencjonalne-bo jak pracuję jako kierowca, to co będę robił, jak auta będą autonomiczne. A może będziesz miał czas na wędkowanie w końcu Może zarabianie samo w sobie przybierze zupełnie inny poziom. Ludzkość istnieje długo, a pracuje dla pieniędzy stosunkowo od niedawna.

[Mosteque]

Rewolucja przemysłowa spowodowała zastąpienie maszynami pracy ludzkich rąk.
Powstały nowe zawody, które polegały na wykorzystaniu nie pracy fizycznej, a intelektualnej.
Jeśli komputery zastąpią nas w pracach intelektualnych, wymagających inteligencji, a nie powtarzania wyuczonych czynności... To gdzie widzisz poziom, na który człowiek może przeskoczyć?

[carl23]

Rewolucja przemysłowa spowodowała zastąpienie maszynami pracy ludzkich rąk.
Powstały nowe zawody, które polegały na wykorzystaniu nie pracy fizycznej, a intelektualnej.
Jeśli komputery zastąpią nas w pracach intelektualnych, wymagających inteligencji, a nie powtarzania wyuczonych czynności... To gdzie widzisz poziom, na który człowiek może przeskoczyć?

Cały czas przyjmujecie (wg mnie błędnie), że komputery zastąpią nas w pracach intelektualnych, a nie przyjmujecie, że nas wspomogą-tu wg mnie tkwi główna obawa, że człowieka zastąpi maszyna. Nie, nie zastąpi. Ona go w wielu rzeczach co najwyżej wyręczy-a to się dzieje od lat.

[Mosteque]

Tutaj macie filmik, jak OpenAI zamienia zadany tekst na obraz. Najpierw widzicie tekst, który modelowi zadano, a potem co on na tej podstawie stworzył.

Dziękuję.

[carl23]

Tutaj macie filmik, jak OpenAI zamienia zadany tekst na obraz. Najpierw widzicie tekst, który modelowi zadano, a potem co on na tej podstawie stworzył.
Dziękuję.

No i super. A czemu ten filmik dowodzi? Że ładnie podstawia obrazy do tekstu czy o co cho? Żyjemy w świecie, że sprzed kompa można zwiedzić większość miejsc na świecie (street view), zobaczyć ulice Nowego Yorku pijąc kawusię i to nie ulice z filmu, a real sprzed kilku m-cy. 20 lat temu nie do pomyślenia, jakby ktoś Ci powiedział, że wirtualny spacer możesz sobie zrobić, obśmiałbyś się jak norka Wirtualne okulary do projekcji-kolejny ciekawy technical. Więc to, że na podstawie tekstu algorytm wypluwa filmik-to przecież dzięki temu, że wrzucono tam pierdylion tera bajtów danych wejściowych i dzięki mocy obliczeniowej jest w stanie szybko to wyszukać. Kolejna działka, w której zmieni się robota-grafika komputerowa, filmoteka etc, dotychczas drogie technologie będą na wyciągnięcie ręki. Wszystko to tylko potwierdza, że owszem, idzie nowe. Ale, żeby od razu to nowe odbierać jako armagedon? Rynek=świat się dostosuje, zobaczycie. Samoloty nie wyparły kolei i samochodów, wizyta na księżycu zmieniła świat, ale go nie rozdupczyła na kawałki, itd itd. Tak działa postęp. I zawsze jest też coś takiego jak "cena postępu" czyli ludzkość czymś przypłaciła, wycinką lasów, dziurą ozonową itd itd, tu też jakaś cena będzie, boimy się bo póki co jest nieznana.

[Mosteque]

Samolot nie miał wyprzeć samochodów i kolei, bo służy do czego innego. To samochody wyparły konie i bryczki

W załączonym obrazku chodzi o to, że AI tworzy rzeczy nieodróżnialne od tych, które stworzyłby człowiek, gdyby dano mu takie zadanie.

Z dzisiaj:
https://x.com/elonmusk/status/1759780859362566395?s=20

Czy byłbyś w stanie stwierdzić, czy na pytanie odpowiedziała maszyna czy człowiek? Nie. Test Turreta upadł dawno temu. A przecież dopiero w tym raczkujemy.

[carl23]

Samolot nie miał wyprzeć samochodów i kolei, bo służy do czego innego. To samochody wyparły konie i bryczki

W załączonym obrazku chodzi o to, że AI tworzy rzeczy nieodróżnialne od tych, które stworzyłby człowiek, gdyby dano mu takie zadanie.

Z dzisiaj:
https://x.com/elonmusk/status/1759780859362566395?s=20

Czy byłbyś w stanie stwierdzić, czy na pytanie odpowiedziała maszyna czy człowiek? Nie. Test Turreta upadł dawno temu. A przecież dopiero w tym raczkujemy.

No hej, ale i człowiek i AI korzysta przy grafice z zasobów kompa-c'nie? Więc to takie naookoło trochę, bo i tak najpierw człowiek nawrzucał info do AI, a teraz AI z tych zasobów korzysta.

[Mosteque]

Samolot nie miał wyprzeć samochodów i kolei, bo służy do czego innego. To samochody wyparły konie i bryczki

W załączonym obrazku chodzi o to, że AI tworzy rzeczy nieodróżnialne od tych, które stworzyłby człowiek, gdyby dano mu takie zadanie.

Z dzisiaj:
https://x.com/elonmusk/status/1759780859362566395?s=20

Czy byłbyś w stanie stwierdzić, czy na pytanie odpowiedziała maszyna czy człowiek? Nie. Test Turreta upadł dawno temu. A przecież dopiero w tym raczkujemy.

No hej, ale i człowiek i AI korzysta przy grafice z zasobów kompa-c'nie? Więc to takie naookoło trochę, bo i tak najpierw człowiek nawrzucał info do AI, a teraz AI z tych zasobów korzysta.

Yyy... no ale rozmawiamy o tym, że AI zastąpi człowieka. Człowiek już swoje zrobił, fakt.

[carl23]

Yyy... no ale rozmawiamy o tym, że AI zastąpi człowieka. Człowiek już swoje zrobił, fakt.

No właśnie to mi się wydaje mało prawdopodobne. Rozumiem obawy, ale to strach przed nieznanym, a dla człowieka powstaną właśnie nowe możliwości, nowe zawody. Coś jak po zastąpieniu dorożek i koni samochodami.
Dobra, z innej beczki-w AI w wędkarstwie?Jakieś pomysły?

[robson]

Dobra, z innej beczki-w AI w wędkarstwie?Jakieś pomysły?

Mogłaby pisać obwieszczenia zarządu PZW. Albo redagować "Wiadomości Wędkarskie".