Τεχνητή νοημοσύνη και κοινωνία

Τι λέμε τεχνητή νοημοσύνη

Τεχνητή νοημοσύνη (ΤΝ, artificial intelligence) λέμε τα συστήματα υπολογιστών που κάνουν εργασίες για τις οποίες ως τώρα χρειαζόταν ανθρώπινη κρίση: αναγνωρίζουν πρόσωπα σε φωτογραφίες, μεταφράζουν, προτείνουν το επόμενο βίντεο, απαντούν σε ερωτήσεις, γράφουν κείμενα.

Τη συναντάς ήδη κάθε μέρα, συχνά χωρίς να το καταλαβαίνεις: στο φίλτρο που πετά τα ανεπιθύμητα μηνύματα, στην κάμερα του κινητού που «βρίσκει» τα πρόσωπα, στους αυτόματους υπότιτλους, στις προτάσεις μιας πλατφόρμας βίντεο.

Από τους κανόνες στα παραδείγματα

Στα προηγούμενα μαθήματα εσύ έγραφες τους κανόνες: if vathmos >= 10:. Ο υπολογιστής απλώς τους εκτελούσε.

Φαντάσου τώρα ότι θέλεις ένα πρόγραμμα που ξεχωρίζει φωτογραφίες με γάτες από φωτογραφίες με σκύλους. Ποιους κανόνες θα έγραφες; «Αν έχει μυτερά αυτιά»; Κάποιοι σκύλοι έχουν. «Αν είναι μικρό»; Κάποιες γάτες είναι μεγάλες. Οι κανόνες δεν τελειώνουν ποτέ.

Η μηχανική μάθηση (machine learning) αντιστρέφει τη δουλειά. Δεν γράφεις κανόνες. Δίνεις στον υπολογιστή χιλιάδες παραδείγματα με τη σωστή απάντηση, «αυτή είναι γάτα», «αυτός είναι σκύλος», και ένας αλγόριθμος ψάχνει μόνος του μοτίβα που τα ξεχωρίζουν.

Το μοντέλο δεν καταλαβαίνει τι είναι γάτα ή τι είναι απάτη. Έχει βρει στατιστικές κανονικότητες στα παραδείγματα, και τις εφαρμόζει. Όσο πιο πολλά, ποικίλα και σωστά είναι τα παραδείγματα, τόσο καλύτερα δουλεύει. Αλλά και το αντίστροφο.

Όταν τα δεδομένα κουβαλούν προκαταλήψεις

Τρία πραγματικά παραδείγματα:

• Πρόσληψη προσωπικού. Το 2018 έγινε γνωστό ότι μια μεγάλη εταιρεία ηλεκτρονικού εμπορίου εγκατέλειψε ένα πειραματικό σύστημα που βαθμολογούσε βιογραφικά. Είχε εκπαιδευτεί σε βιογραφικά δέκα ετών, κυρίως ανδρών, και είχε «μάθει» να υποβαθμίζει βιογραφικά που περιείχαν τη λέξη «γυναικών», π.χ. «αρχηγός της ομάδας σκακιού γυναικών».
• Αναγνώριση προσώπων. Η έρευνα «Gender Shades» (Buolamwini και Gebru, 2018) δοκίμασε εμπορικά συστήματα που αναγνώριζαν το φύλο από φωτογραφίες. Στους άνδρες με ανοιχτόχρωμο δέρμα το λάθος ήταν κάτω από $1\%$· στις γυναίκες με σκούρο δέρμα έφτανε σε ένα σύστημα περίπου το $35\%$. Οι φωτογραφίες εκπαίδευσης δεν αντιπροσώπευαν εξίσου όλους τους ανθρώπους.
• Βαθμοί εξετάσεων. Το 2020, στην Αγγλία, οι εξετάσεις ακυρώθηκαν λόγω της πανδημίας και οι βαθμοί υπολογίστηκαν με έναν αλγόριθμο που έλαβε υπόψη και τις παλιές επιδόσεις κάθε σχολείου. Περίπου τέσσερις στους δέκα βαθμούς που είχαν προτείνει οι καθηγητές κατέβηκαν, και οι μαθητές από σχολεία με χαμηλότερες επιδόσεις στο παρελθόν επηρεάστηκαν δυσανάλογα. Μετά από διαμαρτυρίες, η κυβέρνηση απέσυρε τα αποτελέσματα του αλγορίθμου.

Κανένα από αυτά τα συστήματα δεν φτιάχτηκε με πρόθεση να αδικήσει. Η μεροληψία μπήκε από τα δεδομένα και από τις επιλογές σχεδιασμού, και φάνηκε μόνο όταν κάποιος έλεγξε τα αποτελέσματα ανά ομάδα ανθρώπων.

Γεννητική τεχνητή νοημοσύνη

Τα συστήματα που γράφουν κείμενο, φτιάχνουν εικόνες ή συνθέτουν μουσική λέγονται γεννητικά (generative). Τα μεγάλα γλωσσικά μοντέλα, που βρίσκονται πίσω από τις συνομιλίες με ΤΝ, έχουν εκπαιδευτεί σε τεράστιες ποσότητες κειμένου για να κάνουν ένα πράγμα: να προβλέπουν ποια λέξη ταιριάζει να έρθει μετά, ξανά και ξανά.

Το αποτέλεσμα είναι εντυπωσιακό: κείμενα που διαβάζονται σαν ανθρώπινα, εξηγήσεις, περιλήψεις, κώδικας. Αλλά ο τρόπος που δουλεύουν εξηγεί και την πιο σημαντική τους αδυναμία.

Η γεννητική ΤΝ φτιάχνει και εικόνες, ήχο και βίντεο που δεν διακρίνονται εύκολα από αληθινά. Τα deepfakes, ψεύτικα βίντεο ή ηχητικά με το πρόσωπο ή τη φωνή υπαρκτών ανθρώπων, χρησιμοποιούνται για παραπληροφόρηση, απάτες και εκφοβισμό. Ένα ψεύτικο βίντεο με συμμαθητή σου δεν είναι «αστείο»: είναι βλάβη σε έναν άνθρωπο, και μπορεί να είναι και παράνομο.

Οφέλη και ερωτήματα

Η ΤΝ δεν είναι ούτε μαγεία ούτε απειλή από μόνη της. Είναι εργαλείο, και το αποτέλεσμα εξαρτάται από το πώς φτιάχνεται και πώς χρησιμοποιείται.

Στην Ευρωπαϊκή Ένωση ισχύει από το 2024 ο Κανονισμός για την Τεχνητή Νοημοσύνη (AI Act), που εφαρμόζεται σταδιακά. Κατατάσσει τα συστήματα ανάλογα με τον κίνδυνο που δημιουργούν. Κάποιες χρήσεις απαγορεύονται, όπως η «κοινωνική βαθμολόγηση» των πολιτών. Άλλες θεωρούνται υψηλού κινδύνου, ανάμεσά τους συστήματα που βαθμολογούν μαθητές ή επιλέγουν υποψηφίους για μια θέση εργασίας, και πρέπει να ελέγχονται αυστηρά. Και όταν μιλάς με ένα σύστημα ΤΝ, ή βλέπεις ένα deepfake, πρέπει κατά κανόνα να το ξέρεις.

Υπεύθυνη χρήση στο σχολείο

Η γεννητική ΤΝ μπορεί να σε βοηθήσει να μάθεις, ή να σε εμποδίσει. Η διαφορά είναι στο πώς τη χρησιμοποιείς.

1. Μάθε τους κανόνες. Κάθε σχολείο και κάθε καθηγητής μπορεί να έχει διαφορετικούς κανόνες για κάθε εργασία. Αν δεν είναι σαφές, ρώτα πριν.
2. Δήλωνε τη χρήση. Αν σε βοήθησε ένα εργαλείο ΤΝ, γράψε πού και πώς. Κείμενο που έγραψε η ΤΝ και παραδίδεις ως δικό σου είναι λογοκλοπή, όπως αν το είχες αντιγράψει από έναν συμμαθητή.
3. Κάνε πρώτα τη σκέψη εσύ. Χρησιμοποίησέ την για να σου εξηγήσει κάτι με άλλον τρόπο, να σου δώσει ασκήσεις εξάσκησης, να σχολιάσει ένα κείμενο που έγραψες ήδη. Όχι για να γράψει τη λύση στη θέση σου: αυτό που δεν σκέφτηκες, δεν το έμαθες.
4. Έλεγχε ό,τι σου λέει. Κάθε γεγονός, αριθμό και πηγή, σε αξιόπιστη πηγή. Ιδιαίτερα τις παραπομπές: μπορεί να μην υπάρχουν.
5. Προστάτευε τα προσωπικά δεδομένα. Μη γράφεις σε ένα εργαλείο ΤΝ ονόματα, διευθύνσεις, τηλέφωνα, φωτογραφίες ή πληροφορίες υγείας, ούτε δικές σου ούτε άλλων. Ό,τι γράφεις μπορεί να αποθηκευτεί.
6. Σεβάσου τους όρους χρήσης. Πολλές υπηρεσίες έχουν κατώτατο όριο ηλικίας και ζητούν συναίνεση γονέα για ανηλίκους. Διάβασέ τους πριν ανοίξεις λογαριασμό.

Υπεύθυνη χρήση ή όχι;

Διάλεξε ένα σενάριο και μετά πώς το κρίνεις.

Διάλεξε σενάριο

Ζητάς να σου εξηγήσει τη φωτοσύνθεση με ένα απλό παράδειγμα, και μετά το ελέγχεις στο βιβλίοΤης ζητάς να γράψει ολόκληρη την εργασία της Ιστορίας και την παραδίδεις με το όνομά σουΤης δίνεις την έκθεση που έγραψες και της ζητάς να σου δείξει τα ορθογραφικά λάθηΑνεβάζεις φωτογραφία συμμαθητή σου για να φτιάξεις ένα «αστείο» βίντεο με το πρόσωπό τουΤης ζητάς πέντε πηγές για την εργασία σου και τις αντιγράφεις στη βιβλιογραφία

Πώς το κρίνεις;

Υπεύθυνη χρήσηΕντάξει, με προϋποθέσειςΔεν είναι εντάξει

ΣυμφωνούμεΣωστά. Τη χρησιμοποιείς ως βοηθό για να καταλάβεις, και ελέγχεις την εξήγηση σε αξιόπιστη πηγή.

Λυμένα παραδείγματα

Δοκίμασέ το πρώτα. Μετά δες τη λύση.

Δείξε τη λύση

Δοκίμασέ το πρώτα. Μετά δες τη λύση.

Δείξε τη λύση