Τεχνητή νοημοσύνη και κοινωνία
Μηχανική μάθηση, προκαταλήψεις στα δεδομένα και υπεύθυνη χρήση.
40 λεπτά
Θα μάθεις να
- Να εξηγείς με απλά λόγια πώς ένα σύστημα μηχανικής μάθησης μαθαίνει από παραδείγματα.
- Να εξηγείς πώς μια μεροληψία στα δεδομένα εκπαίδευσης περνά στις αποφάσεις ενός συστήματος, με πραγματικά παραδείγματα.
- Να περιγράφεις τι κάνει ένα γεννητικό μοντέλο γλώσσας και γιατί μπορεί να δώσει λανθασμένη απάντηση με σιγουριά.
- Να εφαρμόζεις κανόνες υπεύθυνης χρήσης της γεννητικής ΤΝ στο σχολείο: δήλωση, έλεγχος, προστασία προσωπικών δεδομένων.
Τι λέμε τεχνητή νοημοσύνη
Τεχνητή νοημοσύνη (ΤΝ, artificial intelligence) λέμε τα συστήματα υπολογιστών που κάνουν εργασίες για τις οποίες ως τώρα χρειαζόταν ανθρώπινη κρίση: αναγνωρίζουν πρόσωπα σε φωτογραφίες, μεταφράζουν, προτείνουν το επόμενο βίντεο, απαντούν σε ερωτήσεις, γράφουν κείμενα.
Τη συναντάς ήδη κάθε μέρα, συχνά χωρίς να το καταλαβαίνεις: στο φίλτρο που πετά τα ανεπιθύμητα μηνύματα, στην κάμερα του κινητού που «βρίσκει» τα πρόσωπα, στους αυτόματους υπότιτλους, στις προτάσεις μιας πλατφόρμας βίντεο.
Από τους κανόνες στα παραδείγματα
Στις προηγούμενες ενότητες εσύ έγραφες τους κανόνες: if vathmos >= 10:. Ο υπολογιστής απλώς τους εκτελούσε.
Φαντάσου τώρα ότι θέλεις ένα πρόγραμμα που ξεχωρίζει φωτογραφίες με γάτες από φωτογραφίες με σκύλους. Ποιους κανόνες θα έγραφες; «Αν έχει μυτερά αυτιά»; Κάποιοι σκύλοι έχουν. «Αν είναι μικρό»; Κάποιες γάτες είναι μεγάλες. Οι κανόνες δεν τελειώνουν ποτέ.
Η μηχανική μάθηση (machine learning) αντιστρέφει τη δουλειά. Δεν γράφεις κανόνες. Δίνεις στον υπολογιστή χιλιάδες παραδείγματα με τη σωστή απάντηση, «αυτή είναι γάτα», «αυτός είναι σκύλος», και ένας αλγόριθμος ψάχνει μόνος του μοτίβα που τα ξεχωρίζουν.
| Όρος | Τι σημαίνει | Στο φίλτρο ανεπιθύμητων μηνυμάτων |
|---|---|---|
| Δεδομένα εκπαίδευσης | τα παραδείγματα από τα οποία μαθαίνει | εκατομμύρια μηνύματα, χαρακτηρισμένα «ανεπιθύμητο» ή «κανονικό» |
| Εκπαίδευση | η αναζήτηση μοτίβων στα παραδείγματα | ποιες λέξεις, αποστολείς, σύνδεσμοι εμφανίζονται συχνά στα ανεπιθύμητα |
| Μοντέλο | αυτό που προκύπτει: ένα πρόγραμμα που κρίνει νέα δεδομένα | το φίλτρο που τρέχει στο γραμματοκιβώτιό σου |
| Πρόβλεψη | η απάντηση του μοντέλου για κάτι που δεν έχει ξαναδεί | «αυτό το νέο μήνυμα είναι μάλλον ανεπιθύμητο» |
Το μοντέλο δεν καταλαβαίνει τι είναι γάτα ή τι είναι απάτη. Έχει βρει στατιστικές κανονικότητες στα παραδείγματα, και τις εφαρμόζει. Όσο πιο πολλά, ποικίλα και σωστά είναι τα παραδείγματα, τόσο καλύτερα δουλεύει. Αλλά και το αντίστροφο.
Όταν τα δεδομένα κουβαλούν προκαταλήψεις
Τρία πραγματικά παραδείγματα:
- Πρόσληψη προσωπικού. Το 2018 έγινε γνωστό ότι μια μεγάλη εταιρεία ηλεκτρονικού εμπορίου εγκατέλειψε ένα πειραματικό σύστημα που βαθμολογούσε βιογραφικά. Είχε εκπαιδευτεί σε βιογραφικά δέκα ετών, κυρίως ανδρών, και είχε «μάθει» να υποβαθμίζει βιογραφικά που περιείχαν τη λέξη «γυναικών», π.χ. «αρχηγός της ομάδας σκακιού γυναικών».
- Αναγνώριση προσώπων. Η έρευνα «Gender Shades» (Buolamwini και Gebru, 2018) δοκίμασε τρία εμπορικά συστήματα που αναγνώριζαν το φύλο από φωτογραφίες προσώπων. Στους άνδρες με ανοιχτόχρωμο δέρμα το λάθος ήταν κάτω από · στις γυναίκες με σκούρο δέρμα έφτανε σε ένα σύστημα περίπου το . Η πιθανότερη εξήγηση: οι συλλογές φωτογραφιών με τις οποίες φτιάχνονταν και δοκιμάζονταν τέτοια συστήματα είχαν κυρίως ανοιχτόχρωμα πρόσωπα, και κυρίως ανδρών.
- Βαθμοί εξετάσεων. Το 2020, στην Αγγλία, οι εξετάσεις ακυρώθηκαν λόγω της πανδημίας και οι βαθμοί υπολογίστηκαν με έναν αλγόριθμο που έλαβε υπόψη και τις παλιές επιδόσεις κάθε σχολείου. Περίπου τέσσερις στους δέκα βαθμούς που είχαν προτείνει οι καθηγητές κατέβηκαν, και οι μαθητές από σχολεία με χαμηλότερες επιδόσεις στο παρελθόν επηρεάστηκαν δυσανάλογα. Μετά από διαμαρτυρίες, η κυβέρνηση απέσυρε τα αποτελέσματα του αλγορίθμου.
Κανένα από αυτά τα συστήματα δεν φτιάχτηκε με πρόθεση να αδικήσει. Η μεροληψία μπήκε από τα δεδομένα και από τις επιλογές σχεδιασμού, και φάνηκε μόνο όταν κάποιος έλεγξε τα αποτελέσματα ανά ομάδα ανθρώπων.
Γεννητική τεχνητή νοημοσύνη
Τα συστήματα που γράφουν κείμενο, φτιάχνουν εικόνες ή συνθέτουν μουσική λέγονται γεννητικά (generative). Τα μεγάλα γλωσσικά μοντέλα, που βρίσκονται πίσω από τις συνομιλίες με ΤΝ, έχουν εκπαιδευτεί σε τεράστιες ποσότητες κειμένου για να κάνουν ένα πράγμα: να προβλέπουν ποια λέξη ταιριάζει να έρθει μετά, ξανά και ξανά.
Το αποτέλεσμα είναι εντυπωσιακό: κείμενα που διαβάζονται σαν ανθρώπινα, εξηγήσεις, περιλήψεις, κώδικας. Αλλά ο τρόπος που δουλεύουν εξηγεί και την πιο σημαντική τους αδυναμία.
Η γεννητική ΤΝ φτιάχνει και εικόνες, ήχο και βίντεο που δεν διακρίνονται εύκολα από αληθινά. Τα deepfakes, ψεύτικα βίντεο ή ηχητικά με το πρόσωπο ή τη φωνή υπαρκτών ανθρώπων, χρησιμοποιούνται για παραπληροφόρηση, απάτες και εκφοβισμό. Ένα ψεύτικο βίντεο με συμμαθητή σου δεν είναι «αστείο»: είναι βλάβη σε έναν άνθρωπο, και μπορεί να είναι και παράνομο.
Οφέλη και ερωτήματα
Η ΤΝ δεν είναι ούτε μαγεία ούτε απειλή από μόνη της. Είναι εργαλείο, και το αποτέλεσμα εξαρτάται από το πώς φτιάχνεται και πώς χρησιμοποιείται.
| Εκεί που βοηθά | Εκεί που γεννά ερωτήματα |
|---|---|
| εντοπίζει ενδείξεις ασθενειών σε ιατρικές εικόνες, ως βοηθός του γιατρού | προσωπικά δεδομένα: τι συλλέγεται, πού αποθηκεύεται, ποιος το χρησιμοποιεί |
| αυτόματοι υπότιτλοι και περιγραφές εικόνων για άτομα με αναπηρία | δουλειές που αλλάζουν ή χάνονται |
| μετάφραση ανάμεσα σε γλώσσες | παραπληροφόρηση και deepfakes |
| προγνώσεις καιρού, έρευνα για νέα υλικά και φάρμακα | η ενέργεια και το νερό που καταναλώνουν τα κέντρα δεδομένων |
Στην Ευρωπαϊκή Ένωση ο Κανονισμός για την Τεχνητή Νοημοσύνη (Κανονισμός (ΕΕ) 2024/1689, γνωστός ως AI Act) τέθηκε σε ισχύ τον Αύγουστο του 2024 και εφαρμόζεται σταδιακά. Κατατάσσει τα συστήματα ανάλογα με τον κίνδυνο που δημιουργούν. Κάποιες χρήσεις απαγορεύονται από τον Φεβρουάριο του 2025, όπως η «κοινωνική βαθμολόγηση» των ανθρώπων. Άλλες θεωρούνται υψηλού κινδύνου, ανάμεσά τους συστήματα που βαθμολογούν μαθητές ή επιλέγουν υποψηφίους για μια θέση εργασίας, και πρέπει να ελέγχονται αυστηρά· μετά από μια τροποποίηση του 2026, οι αναλυτικοί κανόνες γι' αυτά εφαρμόζονται από τον Δεκέμβριο του 2027. Και από τον Αύγουστο του 2026, όταν μιλάς με ένα σύστημα ΤΝ ή βλέπεις ένα deepfake, πρέπει κατά κανόνα να το ξέρεις.
Υπεύθυνη χρήση στο σχολείο
Η γεννητική ΤΝ μπορεί να σε βοηθήσει να μάθεις, ή να σε εμποδίσει. Η διαφορά είναι στο πώς τη χρησιμοποιείς.
- Μάθε τους κανόνες. Κάθε σχολείο και κάθε καθηγητής μπορεί να έχει διαφορετικούς κανόνες για κάθε εργασία. Αν δεν είναι σαφές, ρώτα πριν.
- Δήλωνε τη χρήση. Αν σε βοήθησε ένα εργαλείο ΤΝ, γράψε πού και πώς. Κείμενο που έγραψε η ΤΝ και παραδίδεις ως δικό σου είναι λογοκλοπή, όπως αν το είχες αντιγράψει από έναν συμμαθητή.
- Κάνε πρώτα τη σκέψη εσύ. Χρησιμοποίησέ την για να σου εξηγήσει κάτι με άλλον τρόπο, να σου δώσει ασκήσεις εξάσκησης, να σχολιάσει ένα κείμενο που έγραψες ήδη. Όχι για να γράψει τη λύση στη θέση σου: αυτό που δεν σκέφτηκες, δεν το έμαθες.
- Έλεγχε ό,τι σου λέει. Κάθε γεγονός, αριθμό και πηγή, σε αξιόπιστη πηγή. Ιδιαίτερα τις παραπομπές: μπορεί να μην υπάρχουν.
- Προστάτευε τα προσωπικά δεδομένα. Μη γράφεις σε ένα εργαλείο ΤΝ ονόματα, διευθύνσεις, τηλέφωνα, φωτογραφίες ή πληροφορίες υγείας, ούτε δικές σου ούτε άλλων. Ό,τι γράφεις μπορεί να αποθηκευτεί.
- Σεβάσου τους όρους χρήσης. Πολλές υπηρεσίες έχουν κατώτατο όριο ηλικίας και ζητούν συναίνεση γονέα για ανηλίκους. Στην Ελλάδα, όταν μια διαδικτυακή υπηρεσία στηρίζεται στη συγκατάθεσή σου για να επεξεργαστεί τα προσωπικά σου δεδομένα, κάτω από τα χρειάζεται και η συγκατάθεση γονέα (ν. 4624/2019, άρθρο 21). Διάβασε τους όρους πριν ανοίξεις λογαριασμό.
Παραδείγματα
Παράδειγμα 1
Το σύστημα αξιολόγησης βιογραφικών που έγινε γνωστό το 2018 δεν είχε καμία εντολή του τύπου «προτίμησε άνδρες». Πώς κατέληξε να αδικεί τις γυναίκες;
Δοκίμασέ το πρώτα. Μετά δες τη λύση.
Τα δεδομένα εκπαίδευσης: τα βιογραφικά που είχε λάβει η εταιρεία τα προηγούμενα δέκα χρόνια. Σε αυτές τις τεχνικές θέσεις, η μεγάλη πλειονότητα των υποψηφίων ήταν άνδρες.
Τι έμαθε το μοντέλο: να βρίσκει ό,τι κοινό είχαν τα «επιτυχημένα» βιογραφικά. Ένα από αυτά ήταν η απουσία λέξεων που συνδέονται με γυναίκες, όπως η λέξη «γυναικών» σε μια φράση σαν «ομάδα σκακιού γυναικών», ή τα ονόματα κολεγίων μόνο για γυναίκες.
Το αποτέλεσμα: το μοντέλο υποβάθμιζε βιογραφικά με αυτές τις λέξεις. Δεν «ήξερε» τι είναι φύλο: αναπαρήγαγε ένα μοτίβο του παρελθόντος σαν να ήταν κανόνας.
Το μάθημα: ένα μοντέλο που μαθαίνει από το παρελθόν μπορεί να κάνει τις αδικίες του παρελθόντος αυτόματες. Γι' αυτό τέτοια συστήματα πρέπει να ελέγχονται για το πώς φέρονται σε κάθε ομάδα ανθρώπων, και ένας άνθρωπος να έχει τον τελευταίο λόγο.
Παράδειγμα 2
Για μια εργασία στην Ιστορία, με την άδεια του καθηγητή, χρησιμοποιείς ένα εργαλείο γεννητικής ΤΝ. Αυτό σου απαντά με μια ημερομηνία και μια παραπομπή σε βιβλίο. Πώς προχωράς υπεύθυνα;
Δοκίμασέ το πρώτα. Μετά δες τη λύση.
Πρώτα η δική σου σκέψη. Γράφεις ο ίδιος ένα πρώτο διάγραμμα της εργασίας: ποια ερωτήματα θέλεις να απαντήσεις. Το εργαλείο το χρησιμοποιείς για να καταλάβεις ό,τι σου φαίνεται δύσκολο.
Έλεγχος της ημερομηνίας. Την ψάχνεις στο σχολικό βιβλίο ή σε μια αξιόπιστη εγκυκλοπαίδεια. Αν δεν συμφωνεί, κρατάς αυτό της αξιόπιστης πηγής.
Έλεγχος της παραπομπής. Ψάχνεις το βιβλίο με τον τίτλο και τον συγγραφέα σε έναν κατάλογο βιβλιοθήκης. Αν δεν το βρεις πουθενά, είναι πολύ πιθανό να είναι επινοημένο, και δεν μπαίνει στη βιβλιογραφία.
Δήλωση. Στο τέλος της εργασίας γράφεις μια σύντομη σημείωση: ποιο εργαλείο χρησιμοποίησες και για τι, π.χ. «για να μου εξηγήσει τα αίτια του πολέμου· όλα τα στοιχεία ελέγχθηκαν στο σχολικό βιβλίο».
Πολλαπλή επιλογή
Ασκήσεις
Πώς λέγονται τα παραδείγματα με γνωστή απάντηση από τα οποία μαθαίνει ένα σύστημα μηχανικής μάθησης;
Τα κατάφερες;
- Να εξηγείς με απλά λόγια πώς ένα σύστημα μηχανικής μάθησης μαθαίνει από παραδείγματα.
- Να εξηγείς πώς μια μεροληψία στα δεδομένα εκπαίδευσης περνά στις αποφάσεις ενός συστήματος, με πραγματικά παραδείγματα.
- Να περιγράφεις τι κάνει ένα γεννητικό μοντέλο γλώσσας και γιατί μπορεί να δώσει λανθασμένη απάντηση με σιγουριά.
- Να εφαρμόζεις κανόνες υπεύθυνης χρήσης της γεννητικής ΤΝ στο σχολείο: δήλωση, έλεγχος, προστασία προσωπικών δεδομένων.
Λύσε τις ασκήσεις πιο πάνω και θα δεις εδώ πού στέκεσαι.