Što se dogodi kad agent „vidi" lozinku
AI agenti više nisu igračka. Ljudi im daju da pišu kod, sređuju mailove, rezerviraju termine, pa i plaćaju pretplate. A svaki od tih zadataka prije ili kasnije udari u isti zid: agent treba lozinku, API ključ ili token da bi nešto stvarno napravio.
I tu nastaje problem koji većina ljudi još ne vidi.
Veliki jezični modeli rade tako da sve što im date postane dio njihovog radnog konteksta — teksta na temelju kojeg razmišljaju i odgovaraju. Kad agentu zalijepite lozinku, ona ne ode „u sef". Ona sjedi u tom kontekstu, zajedno sa svime ostalim što agent čita: web stranicama, dokumentima, tuđim porukama.
A upravo je to opasno, iz tri razloga:
I tu nastaje problem koji većina ljudi još ne vidi.
Veliki jezični modeli rade tako da sve što im date postane dio njihovog radnog konteksta — teksta na temelju kojeg razmišljaju i odgovaraju. Kad agentu zalijepite lozinku, ona ne ode „u sef". Ona sjedi u tom kontekstu, zajedno sa svime ostalim što agent čita: web stranicama, dokumentima, tuđim porukama.
A upravo je to opasno, iz tri razloga:
1. Prompt injection
Napadač ne mora hakirati vas — dovoljno je da negdje ostavi tekst koji vaš agent pročita. Zlonamjerna uputa skrivena u web stranici, README datoteci ili mailu može agenta navesti da „ljubazno" proslijedi sve što zna. Uključujući vašu lozinku, ako je u kontekstu. Ovo nije teorija: prompt injection je na vrhu OWASP-ove liste najvećih rizika za aplikacije s velikim jezičnim modelima (OWASP Top 10 for LLM Applications), upravo zato što za njega još ne postoji pouzdana obrana.
2. Nema opoziva
Kad tajna jednom uđe u agentov kontekst, ne postoji gumb „zaboravi". Može završiti u logovima, u povijesti razgovora, u sljedećem odgovoru.
3. Agent je nepredvidiv
To mu je, paradoksalno, glavna vrlina — zato ga i koristite. Ali sustav kojem povjeravate tajne mora biti predvidiv. Te dvije stvari se ne mire tako da se nadamo najboljem, nego tako da tajna nikad ne dođe u ruke nepredvidivom dijelu sustava.
Dva tabora u industriji
Sve više upravitelja lozinki uvodi neku vrstu AI integracije. Ali ako pogledate kako, vidite dvije potpuno različite filozofije.
Jedan tabor agentu daje lozinke u ruke: alat vrati lozinku ili 2FA kod izravno u agentov kontekst. Praktično? Da. Sigurno? Tajna tada živi u kontekstu modela — sa svim rizicima opisanima gore.
Drugi tabor kaže: agent smije orkestrirati, ali ne smije vidjeti. Agent kaže „pokreni aplikaciju s njenim tajnama", a upravitelj lozinki ubrizga vrijednosti izravno u program koji ih treba — u memoriju, samo dok program radi. Agent dobije potvrdu da je posao obavljen. Vrijednost nikad ne prođe kroz njega.
Mi u Geslaru nemamo dilemu oko toga koji je tabor ispravan.
Naših pet pravila
Ovo je doktrina po kojoj gradimo Geslarov AI pristup — objavili smo je prije nego što je značajka bila gotova, jer pravila dolaze prije koda:
1. Tajna nikad ne ulazi u AI kontekst
Agent orkestrira; vrijednost putuje isključivo u program koji je treba, u memoriji, dok program radi.
2. Svaki pristup je odobren
Vi odobravate što, koliko dugo i zašto — a agent uz svaki zahtjev mora navesti razlog.
3. Najmanja ovlast, ograničeno trajanje
Pristup vrijedi samo za ono što ste odobrili, ograničeno vrijeme, i možete ga opozvati u bilo kojem trenutku.
4. Sve je zabilježeno
Tko je pristupio, čemu, kada, s kojim ovlaštenjem i zašto — zapis koji vam pomaže i kod interne provjere i kod revizije (npr. za NIS2).
5. Lokalno ostaje lokalno
Dešifriranje se događa isključivo na vašem uređaju. Naši poslužitelji ne vide vaše ključeve ni vrijednosti tajni — to se s AI-jem ne mijenja ni za milimetar. Više o tome u našoj zero-knowledge arhitekturi.
Što smo izgradili
Na ovoj doktrini izgrađen je Geslar CLI s agent profilima i MCP poslužiteljem: alat kroz koji vaš AI asistent (Claude, Cursor i drugi klijenti koji pokreću lokalni stdio poslužitelj) pod profilom agenta može pokrenuti aplikaciju, pripremiti projekt ili odraditi zadatak koji traži tajne — a da nijednu od njih ne vidi. U konfiguracijskim datotekama stoje samo reference (
geslar://Posao/Stripe/ključ), vrijednosti se ubrizgavaju tek u trenutku izvršavanja, prvo čitanje stavki odobrava osoba lozinkom i svježim 2FA kodom, a svako čitanje stavke bilježi se u revizijski zapis — vašeg računa ili organizacije kojoj Škrinja pripada.
Za tvrtke to znači i nešto veće: AI alate možete pustiti u tim s pristupom samo Škrinjama koje odaberete, a u revizijskom zapisu ostaje svako čitanje stavke.
Danas Geslar CLI ima profile agenata, odobrenja osobe uz 2FA, MCP poslužitelj i način rada za CI. Doktrina je objavljena prije koda — i po njoj nas slobodno držite za riječ. Što CLI ne štiti, piše na docs.geslar.app/cli/limitations.
Imate pitanja o sigurnom korištenju AI agenata? Pišite nam — ovo je tema o kojoj želimo razgovarati.
Imate pitanja o sigurnom korištenju AI agenata? Pišite nam — ovo je tema o kojoj želimo razgovarati.
Kako to rješavamo u Geslaru
U konfiguracijskim datotekama stoje samo reference, a vrijednosti tajni ubrizgavaju se tek u trenutku izvršavanja, pa ih AI agent ne vidi. Prvo čitanje stavki odobrava osoba lozinkom i svježim 2FA kodom, a svako čitanje bilježi se u revizijski zapis.
Pročitajte o sigurnosti →
Pročitajte o sigurnosti →
Napravite lozinku koju napadač neće pogoditiGenerator hrvatskih fraza — besplatno, bez računa.
Isprobajte generator →