Segurtasuna eta sendotasuna adimen artifizialeko sistemetan

Azken urteetan, oso azkar hedatu dira adimen artifizialeko sistemak, eta horrek, zibersegurtasun tradizionalak estaltzen ez dituen ahultasunak ekarri ditu, batez ere manipulatuak izateko arriskua duten ereduei, datu ez-fidagarriei eta ingurune dinamikoei eragiten dietenak. Behar-beharrezkoa da arriskuak ebaluatzeko eta sendotasuna indartzeko erabil daitezkeen irizpide tekniko eta praktikoak izatea.

Jardunaldian, adimen artifizialeko sistemen segurtasunaren eta erresilientziaren erronka nagusiak landuko dira, ikuspegi tekniko eta aplikatu batetik. Ikasketa automatikoko ereduetako benetako ahuleziak aztertuko dira. Adibide zehatzak aurkeztuko dira, ordenagailu bidezko ikusmenekoak eta hizkuntza naturalaren prozesamendukoak, besteak beste. Egungo defentsa-teknikak aztertuko dira: entrenamendu sendoak, monitorizazio-mekanismoak eta anomaliak detektatzea. Fundazio-ereduei eta AAko hornidura-kateei lotutako arrisku berriei buruz hitz egingo da. Ikuspegi praktikoak berrikusiko dira, ikasketa automatikoaren bizi-zikloan segurtasuna integratzeko. Helburua da irizpide teknikoak ematea AAko sistemak ebaluatzeko, diseinatzeko eta benetako mehatxuetatik babesteko.