Skip to content
IIAIT

AI danas · 20. listopada 2026.

Sigurnost AI agenata, prva norma uz Akt o umjetnoj inteligenciji i skupo curenje API ključeva

Danas: zašto Microsoft AI agente promatra kao unutarnje korisnike, prva usklađena norma uz Akt o umjetnoj inteligenciji, napad u kojem su otkriveni pohranjeni API ključevi, dulji rad agenata u Notionu i novi Mistralovi govorni modeli.

  1. 01

    Microsoft: AI agente u poslovanju treba štititi kao unutarnje korisnike, a ne vjerovati im unaprijed

    Microsoft je 19. listopada iznio stav da se AI agenti koji rade unutar organizacija ponašaju kao unutarnji korisnici: pristupaju podacima, alatima i sustavima, a često imaju više ovlasti nego što im treba. Hayete Gallot, koja vodi Microsoftov odjel za sigurnost, napisala je da naprednim modelima ne treba slijepo vjerovati, ne zato što su zlonamjerni, nego zato što ih učenje usmjereno na rezultat može navesti na prečace. Microsoft je opisao nove kontrole: ovlasti ograničene na jedan zadatak koje istječu kad zadatak završi, ljudsko odobrenje za radnje s većim posljedicama, stalnu procjenu rizika za agente i izolirano okruženje za njihovo izvršavanje. Navodi i da sada može otkriti 60 vrsta lokalnih agenata, među njima Claude Code, OpenAI Codex i GitHub Copilot. Datumi dostupnosti nisu objavljeni.

    Što to znači za Vas

    Ako koristite AI agente koji mogu čitati datoteke, slati poruke ili mijenjati sustave, dajte svakome samo onaj pristup koji mu je za zadatak nužan i zadržite ljudsko odobrenje za važne radnje. Korisno je pitati IT službu koji agenti rade na službenim uređajima i što smiju raditi.

    Izvori

  2. 02

    Prva usklađena norma uz Akt o umjetnoj inteligenciji odnosi se na upravljanje kvalitetom za visokorizične sustave

    Europska komisija objavila je 19. listopada da je upućivanje na prvu usklađenu normu koja podupire Akt o umjetnoj inteligenciji objavljeno u Službenom listu EU-a, Provedbenom odlukom (EU) 2026/2274. Norma EN 18286 opisuje sustav upravljanja kvalitetom za potrebe Akta i treba pomoći dobavljačima visokorizičnih AI sustava da ispune zahtjeve iz članka 17. Primjena je dobrovoljna: za one koji je primjenjuju pretpostavlja se da ispunjavaju zahtjeve koje norma pokriva, a sukladnost se i dalje može dokazati i na druge načine.

    Što to znači za Vas

    Organizacijama koje razvijaju ili isporučuju visokorizične AI sustave ovo je prva službena polazna točka za uređenje usklađenosti. Ako AI alate samo koristite, to Vas izravno ne obvezuje, no dobavljačima možete postaviti korisno pitanje: kako ispunjavate zahtjeve Akta o upravljanju kvalitetom?

    Izvori

  3. 03

    Napad na OpenCode otkrio pohranjene API ključeve i doveo do neovlaštenih troškova

    OpenCode, alat za programiranje uz pomoć umjetne inteligencije, objavio je da su napadači došli do API ključeva koje su korisnici pohranili u njegovoj web-konzoli. Prema pisanju TechCruncha, pogođeno je 1,4 posto korisnika konzole. Programeri su prijavili neovlaštene troškove na računima kod OpenAI-ja, Anthropica i Googlea, u nekoliko slučajeva veće od 1000 dolara. Anthropic i Google blokirali su ključeve za koje su procijenili da su otkriveni, OpenAI je vratio potrošene kredite, a OpenCode navodi da je povrat novca u tijeku. Aplikacija otvorenog koda i alat za naredbeni redak nisu pogođeni. Kako su napadači ušli u sustav, nije objašnjeno, a tvrtka navodi da incident još traje.

    Što to znači za Vas

    API ključ za AI usluge djeluje poput platne kartice. Čuvajte ga na što manje mjesta, kod svakog pružatelja postavite ograničenje i upozorenje na potrošnju te zamijenite svaki ključ koji ste unijeli u vanjsku uslugu koja prijavi sigurnosni incident.

    Izvori

  4. 04

    Notionovi agenti sada mogu raditi na jednom zadatku dulje od 24 sata, uz nove cijene temeljene na kreditima

    Notion je 19. listopada objavio da njegovi agenti mogu raditi na jednom zadatku dulje od 24 sata, dok je granica dosad bila pet minuta. Nova postavka Review for me koristi zaseban model koji prije radnje provjerava je li ona sigurna. Naplata prelazi na mjesečne kredite: svako mjesto u paketima Business i Enterprise uključuje 1500 kredita Standard i 500 kredita Select. Novi korisnici već su na novom sustavu, a postojeći prelaze 2. studenoga.

    Što to znači za Vas

    Agenti koji rade dulje mogu preuzeti veće poslove, ali i dulje djeluju bez Vašeg nadzora. Počnite sa zadacima niskog rizika i uključite provjeru prije radnji. Ako Vaš tim koristi Notion, prije 2. studenoga provjerite kako će novi model kredita utjecati na Vašu potrošnju i troškove.

    Izvori

  5. 05

    Mistral objavio govorne modele Voxtral 3, dostupne i preko europskih poslužitelja

    Mistral je predstavio Voxtral 3, skupinu govornih modela za prijepis, prijepis u stvarnom vremenu i pretvaranje teksta u govor, uz alat za izradu glasovnih agenata. Prema navodima tvrtke, prijepis podržava više od 50 jezika, uključujući 24 službena jezika EU-a, a generiranje govora više od 35 jezika. Prijepis snimki počinje od 0,0035 dolara po minuti. Modeli su dostupni preko Mistralovih europskih, američkih i globalnih API pristupnih točaka, a moguće ih je pokretati i na vlastitoj infrastrukturi.

    Što to znači za Vas

    Ako prepisujete sastanke ili razgovore, pružatelj s poslužiteljima u Europi može olakšati pitanja zaštite podataka. Prije nego što se na njega oslonite, provjerite točnost na vlastitim snimkama i na hrvatskom jeziku te razmislite trebate li za snimanje i prijepis privolu sudionika.

    Izvori