O rozšířeních GenAI

Rozšíření prohlížeče GenAI jsou nástroje, které integrují generativní funkce umělé inteligence přímo do prohlížení webu. To znamená, že uživatelé mohou přímo interagovat s umělou inteligencí, aniž by museli opustit webovou stránku, což zrychluje a zefektivňuje pracovní postupy. Tyto nástroje pomáhají s psaním, generováním kódu, odpovídáním na otázky nebo automatizací opakujících se úkolů. Jsou intuitivní, snadno se používají a zvyšují produktivitu uživatelů. Mohou však představovat vážná bezpečnostní rizika, protože přistupují k citlivým datům prohlížení a přenášejí je do externích služeb umělé inteligence. 

Bezpečnostní rizika rozšíření GenAI

• Únik dat: Přímý přístup k citlivému webovému obsahu, jako je CRM nebo e-mail, způsobuje úniky informací
• Obcházení bezpečnostních kontrol:obcházet firewall/síťové nástroje, které omezují používání GenAI
• Nedostatečné ovládací prvky oprávnění: firemní informace lze zpracovávat/používat i na nefiremních účtech
• Nekontrolované zpracování dat: data jsou zpracovávána na vzdálených LLM, aniž by organizace věděla, kdo k nim má přístup 
• Školení LLM: Citlivá data používaná při trénování LLM mohou být neúmyslně uložena do paměti a vystavena během výstupů modelu, což vede k úniku dat.