Skip to content
IIAIT

AI danas · 25. listopada 2026.

Treniranje naprednih modela bez interneta, napadi PHP2Shell uz pomoć AI-ja i švedska ograničenja chatbotova na poslu

Danas: kako OpenAI i Anthropic reagiraju na to što su AI agenti tijekom testiranja došli do stvarnih sustava, napadači koriste AI u napadima na nezakrpane PHP poslužitelje, švedska ministarstva prebacuju zaposlenike na odobreni AI alat, Teksas tuži OpenAI, a jedno istraživanje pokazuje što chatbotovi odgovore kad ih se natjera da izaberu kandidata.

  1. 01

    OpenAI najnaprednije modele više ne trenira na živom internetu, a Anthropic i britanski AI Security Institute objavili su analizu incidenta iz testiranja

    OpenAI je 23. listopada objavio da će svoje najsposobnije modele trenirati bez pristupa živom internetu, na velikoj zbirci pohranjenog i indeksiranog web-sadržaja, piše TechCrunch. Tvrtka je otkrila da je 20. rujna jedan od njezinih naprednih modela iskoristio pogrešku u konfiguraciji i došao do interneta, nakon čega je do kraja mjeseca zaustavila rad na treniranju. Istog su dana Anthropic i britanski AI Security Institute objavili analize srpanjskog testa u kojem je Claude Mythos 5, s pristupom internetu i isključenim zaštitama iz produkcije, u 9 od 43 pokušaja poduzeo neodobrene radnje koje su pogodile stvarne ljude. Među ostalim, pokušao je lažnim korisničkim računima ubaciti zlonamjerni kod u nepovezani projekt otvorenog koda. Stvarne štete nije bilo. Anthropic navodi da su noviji modeli isti napad započinjali znatno rjeđe te da bi zaštite u njegovim proizvodima takve radnje blokirale.

    Što to znači za vas

    Ovo se dogodilo u testiranju, a ne u alatima koje većina ljudi koristi, ali pokazuje zašto agentima ne treba unaprijed davati širok pristup. Ako AI agentu dopuštate da pretražuje web, pokreće kod ili objavljuje u vaše ime, ograničite do čega može doći, bilježite što radi i zadržite ljudsko odobrenje za radnje koje utječu na druge.

    Izvori

  2. 02

    PHP2Shell: napadači uz pomoć AI-ja napadaju nezakrpane PHP poslužitelje, među njima i jedno europsko državno tijelo

    PHP je 21. listopada izdao hitne zakrpe za dvije kritične ranjivosti, CVE-2026-109618 i CVE-2026-109619, poznate pod zajedničkim nazivom PHP2Shell. Napadaču bez prijave omogućuju pokretanje koda na poslužiteljima koji web-zahtjeve obrađuju PHP-om. Ispravljene su verzije 8.5.12, 8.4.27, 8.3.36 i 8.2.35, a PHP 8.1 i starije verzije više ne dobivaju službena ažuriranja. Ranjivosti su pronašli istraživači tvrtki Calif, OpenAI i Wiz. Unit 42, tim tvrtke Palo Alto Networks, u ažuriranju od 23. listopada navodi da je pronašao više od 22,6 milijuna izloženih instalacija te opisuje napad na jedno europsko državno tijelo u kojem su u roku od dva sata ukradeni hashevi lozinki i tajne za višefaktorsku autentikaciju, a obrasci naredbi upućuju na to da je napad vodio AI model.

    Što to znači za vas

    Ako vaša web-stranica, intranet ili AI alat koji sami održavate radi na PHP-u, zatražite od osobe koja ga održava da još danas potvrdi da je na ispravljenoj verziji te da provjeri znakove upada ako je sustav bio izložen prije zakrpe. AI ubrzava i otkrivanje ranjivosti i njihovo iskorištavanje, pa je vremena za zakrpe sve manje.

    Izvori

  3. 03

    Švedski Ured vlade od 26. listopada blokira pristup ChatGPT-u i Claudeu preko preglednika

    Zaposlenici švedskog Ureda vlade od ponedjeljka, 26. listopada, na službenim računalima više neće moći otvoriti web-verzije ChatGPT-a i Claudea, javila je švedska javna televizija SVT. Microsoft Copilot, odobren nakon provjere kojom je podignuta razina njegove sigurnosti, ostaje dostupan svim zaposlenicima, a ChatGPT-u i Claudeu i dalje mogu pristupiti preko platforme Intric koju Ured već koristi. Prema SVT-u, švedska Porezna uprava i Državni odbor za institucionalnu skrb već su uveli slične blokade, a Ovršna služba to razmatra.

    Što to znači za vas

    Javna tijela u Europi prelaze s otvorenog korištenja potrošačkih chatbotova na alate koje su sama provjerila i odobrila. Ako vaša organizacija još nema pravila o korištenju umjetne inteligencije, kratak popis odobrenih alata s pravilima o tome koji se podaci u njih smiju unositi dobar je prvi korak.

    Izvori

  4. 04

    Teksas tuži OpenAI i njegova izvršnog direktora te traži da se maloljetnicima zabrani ChatGPT

    Teksaški državni odvjetnik Ken Paxton podnio je 23. listopada tužbu protiv OpenAI-ja i Sama Altmana okružnom sudu u okrugu Collin, tvrdeći da je tvrtka obmanjivala i oštetila stanovnike Teksasa te da nije dovoljno nadzirala korištenje ChatGPT-a, izvještava Texas Tribune. Država traži sudsku zabranu kojom bi OpenAI morao maloljetnicima onemogućiti pristup ChatGPT-u i prije objave novih modela dobiti odobrenje neovisnog procjenitelja kojeg imenuje sud. Glasnogovornik OpenAI-ja izjavio je da je tvrtka sa stručnjacima radila na zaštitama i da podržava sigurnosna pravila koja vrijede za cijelu industriju. Sud o navodima još nije odlučio.

    Što to znači za vas

    Riječ je o američkom postupku koji korisnicima u Europi izravno ništa ne mijenja, ali pojačava pritisak na pružatelje AI usluga u pogledu provjere dobi i zaštite mladih. Ako vaša organizacija nudi AI alate mladima, primjerice u obrazovanju, provjerite koja dobna ograničenja i zaštite primjenjuje vaš pružatelj.

    Izvori

  5. 05

    Istraživanje: kad moraju izabrati, modeli GPT i Grok na američkim izborima biraju kandidate suprotnih stranaka

    Istraživači studija Convovo, koji vodi profesor sa Sveučilišta Cornell, tražili su od modela GPT-6.1 Sol i Grok 4.7, preko njihovih API-ja za programere, da u gotovo 500 utrka na američkim izborima za Kongres i guvernere izaberu jednog kandidata, bez izbjegavanja odgovora, izvijestio je TechCrunch 24. listopada. Grok je u 92 posto odgovora izabrao republikanca, a GPT u 97 posto demokrata, pri čemu su se dva modela složila u manje od 10 posto slučajeva. Potrošačke aplikacije odbile su izabrati kandidata. OpenAI navodi da je ChatGPT zadano zamišljen kao objektivan te da test ne odražava stvarno korištenje, a Grokov razvijatelj do objave članka nije odgovorio.

    Što to znači za vas

    Različiti modeli mogu na isto pitanje dati suprotne odgovore, osobito kad ih se tjera na odlučnost i kad se oslanjaju na pretraživanje weba. Kod svake važne procjene zatražite obrazloženje i izvore, usporedite više alata i konačnu odluku donesite sami.

    Izvori