Lukáš Kintr, ředitel Národního úřadu pro kybernetickou a informační bezpečnost, vysvětluje, jak využívat umělou inteligenci ve státě a významných firmách a přitom udržet kontrolu nad daty, modely a riziky dodavatelského řetězce.
Jak nastavit pravidla pro nasazování umělé inteligence ve státě a významných firmách tak, aby Česko rychle využilo ekonomický a inovační přínos AI, ale zároveň udrželo měřitelnou kybernetickou odolnost a kontrolu nad riziky dodavatelského řetězce, dat a modelů?
Podobně jako před lety s cloudy se nám dnes naskýtá příležitost využít značného potenciálu, který bezpochyby umělá inteligence nabízí. Používání AI s sebou kromě všech výhod nese také rizika, která nejsou příliš odlišná právě od cloudu. Ona ta podobnost není náhodná. Většina velkých jazykových modelů funguje na cloudové infrastruktuře, protože jen málokdo má k dispozici takový výpočetní výkon, aby si model mohl provozovat sám. Jedním z největších rizik tak je vzdání se „fyzické“ kontroly nad daty, která do AI vkládáme. Servery, na kterých běží, tak nejsou pod naší přímou kontrolou a z toho plynou hrozby spojené např. s možnou nižší ochranou našich práv i dat samotných, přístup cizích osob k datům, jejich zneužití apod. Samozřejmě existují způsoby, jak se těmto hrozbám bránit, nakonec to ale vždy bude o důvěře v poskytovatele cloudu, respektive AI. Absolutní ignorování předchozího si představme jako situaci, kdy svůj odemčený mobilní telefon dáváte náhodné osobě na ulici, aby vám ho na chvíli pohlídala.
S cloudy se stát dokázal vypořádat. Řešíme, kdo nám služby poskytuje, kde ukládá a zpracovává data, šifrujeme a monitorujeme, kdo k našim datům přistupuje. Takže už nedáváme odemčený mobil náhodné osobě, ale někomu, koho známe, máme ho zamčený a sledujeme, co se na něm děje. Nebo ho rovnou ani nedáme z ruky.
Ačkoliv má AI oproti cloudu i specifika, věřím, že se i v tomto případě dokážeme adaptovat a využívat ji tak, abychom minimalizovali hrozící rizika.
