Ο Νόμος για την τεχνητή νοημοσύνη αποτελεί ορόσημο στην προσπάθεια της Ευρωπαϊκής Ένωσης να θεσπίσει ένα ολοκληρωμένο ρυθμιστικό πλαίσιο για την τεχνητή νοημοσύνη. Είναι η πρώτη σημαντική προσπάθεια της ΕΕ να ρυθμίσει την τεχνητή νοημοσύνη, με στόχο να διασφαλίσει ότι τα συστήματα τεχνητής νοημοσύνης που αναπτύσσονται, αναπτύσσονται και χρησιμοποιούνται εντός της ΕΕ είναι ασφαλή, διαφανή και σέβονται τα θεμελιώδη δικαιώματα. Ο νόμος επιδιώκει να προωθήσει την καινοτομία και παράλληλα να μετριάσει τους πιθανούς κινδύνους που συνδέονται με την τεχνητή νοημοσύνη..
Κεντρικό χαρακτηριστικό του νόμου για την ΤΝ είναι η προσέγγιση που βασίζεται στον κίνδυνο για τη ρύθμιση των συστημάτων ΤΝ. Αυτό σημαίνει ότι ο νόμος κατατάσσει τα συστήματα ΤΝ σε τέσσερις διαφορετικές κατηγορίες, καθεμία από τις οποίες έχει διαφορετικά επίπεδα ρυθμιστικού ελέγχου, με βάση τον αντιληπτό κίνδυνο που ενέχουν:
- Τεχνητή νοημοσύνη με απαράδεκτο κίνδυνο
Αυτά τα συστήματα Τεχνητής Νοημοσύνης θεωρείται ότι ενέχουν απαράδεκτο κίνδυνο για τα θεμελιώδη δικαιώματα και, κατά συνέπεια, απαγορεύονται εντελώς. Παραδείγματα τέτοιων συστημάτων είναι η ΤΝ που χειραγωγεί την ανθρώπινη συμπεριφορά για να προκαλέσει βλάβη, η αναγνώριση προσώπου σε πραγματικό χρόνο σε δημόσιους χώρους για την επιβολή του νόμου (με πολύ περιορισμένες εξαιρέσεις) και τα συστήματα κοινωνικής βαθμολόγησης που επιχειρούν να κατατάξουν τους πολίτες με βάση τη συμπεριφορά ή τα χαρακτηριστικά τους.
- ΑΙ υψηλού κινδύνου
Τα συστήματα ΑΙ αυτής της κατηγορίας επιτρέπονται αλλά υπόκεινται σε αυστηρές κανονιστικές απαιτήσεις. Τα συστήματα αυτά χρησιμοποιούνται συνήθως σε ευαίσθητους τομείς, όπου οι αποφάσεις της ΤΝ μπορεί να έχουν σημαντικό αντίκτυπο στη ζωή των ατόμων. Παραδείγματα περιλαμβάνουν την ΤΝ που χρησιμοποιείται στην εκπαίδευση (όπως για την αυτοματοποιημένη βαθμολόγηση), την υγειονομική περίθαλψη, την επιβολή του νόμου, τις διαδικασίες πρόσληψης και την πρόσβαση σε βασικές δημόσιες υπηρεσίες.
- ΑΙ περιορισμένου κινδύνου
Τα συστήματα τεχνητής νοημοσύνης που χαρακτηρίζονται ως περιορισμένου κινδύνου επιτρέπονται γενικά, αλλά πρέπει να τηρούν ορισμένες υποχρεώσεις διαφάνειας. Ένα συνηθισμένο παράδειγμα είναι τα chatbots ή τα συστήματα ΤΝ που αλληλεπιδρούν με χρήστες, όπου υπάρχει η απαίτηση να γνωστοποιείται ότι ο χρήστης αλληλεπιδρά με μια μηχανή, διασφαλίζοντας ότι οι χρήστες γνωρίζουν ότι δεν επικοινωνούν με άνθρωπο.
- Τεχνητή νοημοσύνη ελάχιστου κινδύνου
Τα συστήματα τεχνητής νοημοσύνης που ανήκουν στην κατηγορία ελάχιστου κινδύνου μπορούν να χρησιμοποιούνται ελεύθερα, αν και η υπεύθυνη χρήση εξακολουθεί να ενθαρρύνεται έντονα. Παραδείγματα είναι η τεχνητή νοημοσύνη που χρησιμοποιείται σε φίλτρα spam ή NPCs βιντεοπαιχνιδιών.
Ο νόμος για την τεχνητή νοημοσύνη, στο πλαίσιο της επιδίωξής του για υπεύθυνη ανάπτυξη και ανάπτυξη της τεχνητής νοημοσύνης, περιγράφει διάφορες βασικές αρχές που ισχύουν για όλα τα μη απαγορευμένα συστήματα τεχνητής νοημοσύνης. Οι αρχές αυτές, είτε ενθαρρύνονται είτε επιβάλλονται από τον νόμο, αποσκοπούν στο να διασφαλίσουν ότι οι τεχνολογίες ΤΝ χρησιμοποιούνται με τρόπο που να είναι τόσο επωφελής όσο και ηθικά ορθός.
Πρώτη και κυριότερη είναι η Διαφάνεια. Ο νόμος τονίζει τη σημασία της ενημέρωσης των χρηστών όταν αλληλεπιδρούν με ένα σύστημα ΤΝ. Αυτή η διαφάνεια είναι ζωτικής σημασίας για την ενίσχυση της εμπιστοσύνης και επιτρέπει στους χρήστες να λαμβάνουν τεκμηριωμένες αποφάσεις σχετικά με τις αλληλεπιδράσεις τους. Επιτρέπει στους χρήστες να κατανοήσουν τη φύση της τεχνολογίας με την οποία αλληλεπιδρούν και συμβάλλει στην αποφυγή κάθε πιθανής εξαπάτησης.
Δεύτερον, ο Νόμος τονίζει την ανάγκη για Ανθρώπινη Εποπτεία. Ιδιαίτερα στα συστήματα τεχνητής νοημοσύνης υψηλού κινδύνου, τα οποία μπορεί να έχουν σημαντικές επιπτώσεις στη ζωή των ατόμων, ο νόμος επιβάλλει να υπάρχουν διατάξεις για ανθρώπινη παρακολούθηση και έλεγχο. Αυτό διασφαλίζει ότι η ανθρώπινη κρίση παραμένει κρίσιμο στοιχείο στη λήψη αποφάσεων με βάση την ΤΝ, αποτρέποντας τα συστήματα ΤΝ να λειτουργούν αυτόνομα σε καταστάσεις όπου είναι απαραίτητη η ανθρώπινη παρέμβαση.
Επιπλέον, ο Νόμος υπογραμμίζει τη σημασία της Ανθεκτικότητας και της Ακρίβειας. Τα συστήματα τεχνητής νοημοσύνης θα πρέπει να σχεδιάζονται και να αναπτύσσονται ώστε να αποδίδουν αξιόπιστα και με ασφάλεια. Η αρχή αυτή υπογραμμίζει την ανάγκη τα συστήματα ΤΝ να είναι αξιόπιστα και να ελαχιστοποιούν τον κίνδυνο σφαλμάτων ή αστοχιών, ιδίως σε εφαρμογές όπου η ασφάλεια είναι υψίστης σημασίας.
Τέλος, ο Νόμος δίνει σημαντική έμφαση στη Διακυβέρνηση Δεδομένων. Η ποιότητα των δεδομένων εκπαίδευσης είναι θεμελιώδης για την απόδοση και τη δικαιοσύνη των συστημάτων τεχνητής νοημοσύνης. Ως εκ τούτου, ο νόμος ορίζει ότι τα δεδομένα εκπαίδευσης πρέπει να είναι συναφή, αντιπροσωπευτικά και απαλλαγμένα από προκαταλήψεις. Αυτό διασφαλίζει ότι τα συστήματα ΤΝ εκπαιδεύονται με δεδομένα που αντικατοπτρίζουν με ακρίβεια τον πραγματικό κόσμο και δεν διαιωνίζουν ή ενισχύουν τις υπάρχουσες κοινωνικές προκαταλήψεις.