Governance dell'AI — Cosa è e perché è importante
1. Un sistema di candidatura rifiuta una candidata. Lei chiede il motivo. Il sistema risponde 'Il risultato si basa su modelli complessi.' Cosa manca qui?
La trasparenza significa: le decisioni devono essere spiegabili.
2. Cosa hanno in comune i casi Amazon, COMPAS e il fornitore di carte di credito?
Nessuna cattiva volontà — solo mancanza di verifica e responsabilità.
3. Quale principio garantisce che ci sia sempre un essere umano responsabile di una decisione presa dall'AI?
Responsabilità = Verantwortlichkeit. L'AI non può essere responsabile — devono esserlo le persone.
4. Un modello di AI per la concessione di crediti non è mai stato esplicitamente addestrato per la discriminazione — mostra però sistematicamente risultati peggiori per un gruppo. Quale principio è violato?
La correttezza significa: controllare attivamente i bias, non solo sperare che non ci siano.
5. Cosa significa 'Minimo di dati per lo scopo'?
La minimizzazione dei dati è un principio del GDPR: raccogliere solo il minimo necessario.
6. Ricevi un rifiuto automatico a una candidatura. Quale diritto hai secondo il GDPR Art. 22?
GDPR Art. 22: Decisioni automatiche con effetti significativi devono essere impugnabili.
7. Sei un responsabile delle risorse umane e stai valutando uno strumento di AI per la preselezione dei candidati. Quali domande devi porre prima dell'acquisto? (Sono possibili più risposte) 2 pts
Domande di governance: spiegabilità, origine dei dati, responsabilità. La velocità non è un criterio di governance.
8. Qual è la differenza fondamentale tra un'organizzazione con e senza AI Governance?
Non si tratta di se qualcosa va storto — ma se si è in grado di riconoscerlo e reagire.
9. Quale affermazione sulla governance dell'AI è corretta?
La governance consente un'azione responsabile — non meno AI, ma una AI migliore.