Μια νέα εποχή αναδύεται μετά το πρόσφατο πλαίσιο που θέσπισε η ΕΕ αναφορικά με το παραγόμενο από την τεχνητή νοημοσύνη περιεχόμενο, με στόχο την ασφάλεια των πολιτών. Ειδικότερα, το νέο πλαίσιο τέθηκε σε ισχύ από τις 2 Αυγούστου 2026, με τη ραγδαία εξέλιξη της τεχνολογίας να καθιστά ολοένα και πιο δυσδιάκριτα τα όρια μεταξύ αυθεντικού και παραγόμενου περιεχομένου. Ως εκ τούτου, σύμφωνα με την ΕΕ, οι νέοι κανόνες επιχειρούν να θωρακίσουν τους πολίτες απέναντι στην παραπληροφόρηση, στην απάτη και στη μαζική χειραγώγηση.

Βάσει του νέου καθεστώτος, οι πάροχοι και οι χειριστές συστημάτων ΑΙ επωμίζονται πλέον αυστηρές υποχρεώσεις:

Σήμανση παραγόμενου περιεχομένου: Συγκεκριμένο υλικό που παράγεται ή αλλοιώνεται από τεχνητή νοημοσύνη πρέπει να φέρει σαφή και ορατή σήμανση, καθώς και αναγνώσιμα από μηχανές ίχνη (machine-readable marks), αξιοποιώντας και τα ειδικά εικονίδια που έχει δημιουργήσει η ΕΕ. Ο κανόνας αυτός εφαρμόζεται ρητά σε:

• Εικόνες, ήχο και βίντεο που προσομοιάζουν σε υπαρκτά πρόσωπα, αντικείμενα, τοποθεσίες, οντότητες ή γεγονότα (deepfakes).
• Εργαλεία αναγνώρισης συναισθημάτων και βιομετρικής κατηγοριοποίησης.
• Κείμενα που δημοσιεύονται για την ενημέρωση του κοινού επί θεμάτων δημοσίου συμφέροντος, εφόσον δεν έχουν υποστεί ανθρώπινο έλεγχο ή συντακτική επιμέλεια.

Διαφάνεια στην αλληλεπίδραση: Οι χρήστες πρέπει να ενημερώνονται ξεκάθαρα όταν συνομιλούν με σύστημα τεχνητής νοημοσύνης (όπως chatbots, ψηφιακούς πράκτορες και avatars) και όχι με πραγματικό πρόσωπο.

Οι κυρώσεις είναι ιδιαίτερα αυστηρές, καθώς για τις εταιρείες τα πρόστιμα μπορούν να αγγίξουν τα 15 εκατ. ευρώ ή το 3% του ετήσιου κύκλου εργασιών τους (με πρόβλεψη αναλογικότητας για τις μικρομεσαίες επιχειρήσεις), ενώ για τα θεσμικά όργανα και τους οργανισμούς της ΕΕ φτάνουν έως τις 750.000 ευρώ.

Η έναρξη ισχύος των εν λόγω κανόνων αποτελεί κομβικό στάδιο της σταδιακής εφαρμογής του ευρωπαϊκού νόμου για την τεχνητή νοημοσύνη (AI Act), ο οποίος ενεργοποιήθηκε τον Αύγουστο του 2024, με στόχο να εξισορροπήσει την τεχνολογική καινοτομία με την προστασία των θεμελιωδών δικαιωμάτων και της δημοκρατίας.