Badania Palisade Research ujawniają, że niektóre modele AI oszukują, by wygrać z zaawansowanymi systemami szachowymi. Przebadane modele językowe oszukiwały, aby osiągnąć swój cel. Aby manipulować nie potrzebowały do pomocy człowieka.
Najnowsze badania przeprowadzone przez Palisade Research pokazują, że niektóre modele sztucznej inteligencji są zdolne do oszustwa, aby osiągnąć zamierzony cel. Naukowcy odkryli, że AI potrafi manipulować między innymi systemami szachowymi, by zdobyć nieuczciwą przewagę. Niektóre modele językowe robiły to same z siebie i nie potrzebowały wskazówek od ludzi.
Nieuczciwe zagrania sztucznej inteligencji
W badaniach przeciwstawiono sobie różne modele aI i jeden z najlepszych silników szachowych, czyli Stockfish. Modele takie jak o1-preview i DeepSeek's R1 wykazały zdolność do oszukiwania. O1-preview oszukiwał w 37 proc. gier, a DeepSeek's R1 w 11 proc. przypadków.
Podczas jednego z testów, o1-preview zmodyfikował pliki systemowe Stockfish, a to spowodowało, że sztuczna inteligencja uzyskała niewiarygodną przewagę. Od dawna pojawiają się obawy dotyczącę etyczności działania AI, szczególnie w złożonych środowiskach. Wyniki przeprowadzonego eksperymentu są niepokojąco, ponieważ, jak wynika z przeprowadzonych testów, sztuczna inteligencja stają się coraz bardziej przebiegła.
Kontrolowanie działania AI okazuje się ogromnym wyzwaniem
Manipulowanie algorytmami podczas rozgrywania partii szachowych budzi pytania o etykę i konsekwencję zastosowania sztucznej inteligencji w innych dziedzinach. Ten rewolucyjny wynalazek może okazać się równie przydatny co niebezpieczny. Szczególnie, że nieuczciwa sztuczna inteligencja brzmi jak scenariusz któregoś z odcinków ,,Black Mirror”. Jeffrey Ladish z Palisade Research podkreśla, że choć obecnie to tylko gra, konsekwencje mogą być poważne, gdy AI zacznie działać w strategicznie istotnych obszarach.
"To zachowanie jest teraz urocze, ale staje się znacznie mniej urocze, gdy masz systemy, które są tak inteligentne jak my, lub mądrzejsze, w strategicznie istotnych domenach" - powiedział Jeffrey Ladish w rozmowie z Times.
Giganci technologiczni nieustannie udoskonalają AI i zapewniają, że nieustannie pracują nad wprowadzaniem adekwatnych zabezpieczeń, aby zapobiec niepożądanym zachowaniom. W trakcie badań badacze zauważyli to, że OpenAI prawdopodobnie wprowadziło poprawki do modelu o1-preview, a to zmniejszyło liczbę prób oszustwa.
Musimy przyglądać się działaniom sztucznej inteligencji
Największe firmy stojące za modelami językowymi nie chcą wypowiadać się na temat potencjalnych oszustw dokonywanych przez sztuczną inteligencję. OpenAI odmówiło komentarza na temat badań, a DeepSeek nie odpowiedziało na prośby o wypowiedź, badania Palisade Research wskazują na potrzebę dalszego monitorowania i regulacji zachowań AI. Postęp technologiczny sprawia, że sztuczna inteligencja rozwija się w zastraszającym tempie, dlatego tak ważne jest monitorowanie pracy algorytmów i pewność, że działają w sposób etyczny i zgodny z oczekiwaniami społecznymi.
Komentarze
9ahhh. To w jaki sposób został wystawiony interfejs, że o1-preview miała dostęp do systemu plików? Chyba celowo to zrobiono.
"Wyniki przeprowadzonego eksperymentu są niepokojąco, ponieważ, jak wynika z przeprowadzonych testów, sztuczna inteligencja stają się coraz bardziej przebiegła. "
Domniemania autorki, która ma blade pojęcie o A.I.
Dalej w artykule popłynęła.
Artykuł jakiś tendencyjny, mający na celu wzbudzenie lęku w ludziach, tak aby się bali tej strasznej A.I.
Merytoryki w tym bieda tekście jak na lekarstwo. To zwykłe generowanie sensacji.
Aha. I droga autorko miło byłoby mieć też źródło tych rewelacji, co jest podstawową rzeczą dla rzetelnego dziennikarstwa.
"Musimy przyglądać się działaniom sztucznej inteligencji"
Tak, działaniom, aha. A może przyglądnijmy się tekstom autorki, albo lepiej je zignorujmy.
W normalnej rozgrywce szachowej obowiązują 2 proste zasady:
1. Podniesiona figura musi wykonać ruch, albo od razu przegrywasz
2. Niezgodny z regułami ruch, to od razu przegrana
3. Nie można wycofywać ruchów
Jak widać, to jest kolejna bzdura na temat AI, a całe doświadczenie najwyraźniej wykonał ktoś nie mający zielonego pojęcia jak to ma być zaprogramowane.
Bo to jest jak w szachach, albo umiesz grać, albo znasz jedynie reguły szachowe. Tutaj najwyraźniej istnieje tylko to drugie.