UE avvia la vigilanza sull'AI Act, controlli e trasparenza per i chatbot e i deepfakes (guida frontaliere)

Contesto

In breve

• La Commissione Ue avvia la vigilanza sull'AI Act a partire dal 2 agosto. Nuove regole per i fornitori di modelli Gpai. Controlli e trasparenza per i chatbot e i deepfakes.

UE controlla AI Act, trasparenza per chatbot e deepfakes

La Commissione Ue ha avviato la vigilanza sull'AI Act, che entra in vigore a partire dal 2 agosto. Questa nuova normativa introduce regole più rigorose per i fornitori di modelli Gpai, che saranno soggetti a controlli e trasparenza. L'obiettivo è di garantire che questi modelli siano sviluppati e utilizzati in modo etico e responsabile.

La normativa prevede che i fornitori di modelli Gpai siano in grado di fornire informazioni chiare e trasparenti sulle loro tecnologie e sui dati utilizzati. Inoltre, i fornitori dovranno anche garantire che i loro modelli non siano utilizzati per scopi dannosi o discriminatori.

In Svizzera, le aziende che utilizzano modelli Gpai dovranno adottare misure per garantire la conformità con la normativa Ue. Questo potrebbe includere la revisione dei propri processi e la formazione dei propri dipendenti per garantire che siano in grado di utilizzare i modelli Gpai in modo etico e responsabile.

Ad esempio, una società di Berna che utilizza un modello Gpai per la valutazione dei rischi potrebbe dover fornire informazioni chiare sulle sue tecnologie e sui dati utilizzati. Inoltre, la società potrebbe dover anche garantire che il modello non sia utilizzato per scopi discriminatori o dannosi.

La normativa Ue prevede anche che i fornitori di modelli Gpai siano soggetti a controlli e verifiche. Questi controlli potrebbero includere la valutazione delle tecnologie utilizzate e la verifica dei dati utilizzati.

…

Dettagli operativi

UE controlla AI Act, trasparenza per chatbot e deepfakes

La Commissione Ue ha deciso di avviare la vigilanza sull'AI Act a partire dal 2 agosto. Questa nuova fase di attività di monitoraggio e controllo sarà esercitata dall'AI Office in collaborazione con le autorità nazionali competenti. La Commissione Ue richiama i rischi più recentemente emersi, come quelli per la sicurezza informatica europea e quelli derivanti da sistemi di IA che agiscono al di fuori del controllo umano.

La nuova normativa è volta a garantire una maggiore trasparenza e responsabilità nel campo dell'intelligenza artificiale. L'AI Act richiede che le aziende che utilizzano sistemi di IA siano in grado di spiegare come funzionano e di garantire che non siano dannosi per l'utente finale.

La Commissione Ue ha anche lanciato un'indagine sulle possibili applicazioni negative dell'intelligenza artificiale, come la creazione di deepfakes e la manipolazione di immagini e video. Questi rischi sono particolarmente preoccupanti in Svizzera, dove la tecnologia dell'intelligenza artificiale è già molto avanzata e utilizzata in diversi settori, come la finanza e la sanità.

Secondo un rapporto della Commissione Ue, l'utilizzo di deepfakes potrebbe avere gravi conseguenze per la sicurezza informatica europea. "I deepfakes possono essere utilizzati per creare finte identità digitali o per diffondere informazioni false", ha affermato il rapporto. "Questo può avere conseguenze devastanti per la sicurezza informatica europea".

…

Punti chiave

UE controlla AI Act, trasparenza per chatbot e deepfakes

L'Unione Europea sta prendendo misure per regolamentare l'intelligenza artificiale (IA) e garantire la trasparenza dei modelli di IA, come i chatbot e i deepfakes. Queste misure sono parte del pacchetto di leggi europee denominate AI Act.

I fornitori di modelli Gpai saranno tenuti a documentare una serie di informazioni da mettere a disposizione delle autorità competenti e degli sviluppatori che utilizzano tali modelli. Inoltre, sarà necessario adottare una politica sul rispetto del diritto d'autore e pubblicare una sintesi sufficientemente dettagliata dei contenuti usati per addestrare i modelli. Queste nuove regole saranno applicate dall'Ufficio per l'IA istituito in seno alla Commissione.

Le nuove norme richiedono che i fornitori di modelli Gpai forniscono informazioni dettagliate sui dati utilizzati per addestrare i modelli, compresi i metodi di raccolta dei dati e le fonti dei dati. Inoltre, i fornitori dovranno fornire informazioni sulle tecniche utilizzate per sviluppare i modelli e sulle modalità di utilizzo dei dati.

Ad esempio, se un'azienda svizzera come l'azienda di Lugano, Sygma, che opera nel settore della finanza e dei servizi finanziari, dovesse utilizzare un modello di IA per fornire servizi di consulenza finanziaria, dovrebbe fornire informazioni dettagliate sui dati utilizzati per addestrare il modello, compresi i metodi di raccolta dei dati e le fonti dei dati.

La Commissione europea ha già stabilito un tetto massimo di 150 milioni di euro per la Commissione europea per finanziare i progetti di ricerca e sviluppo sull'IA, che includono la creazione di modelli di IA più sicuri e trasparenti.

…