# Τεχνητή νοημοσύνη και κοινωνία

> Μηχανική μάθηση, προκαταλήψεις στα δεδομένα και υπεύθυνη χρήση.

Πληροφορική, Γ΄ Γυμνασίου. https://www.akademio.gr/el/gym-c/informatics/ai-society

## Τι θα μάθεις

- Να εξηγείς με απλά λόγια πώς ένα σύστημα μηχανικής μάθησης μαθαίνει από παραδείγματα.
- Να εξηγείς πώς μια μεροληψία στα δεδομένα εκπαίδευσης περνά στις αποφάσεις ενός συστήματος, με πραγματικά παραδείγματα.
- Να περιγράφεις τι κάνει ένα γεννητικό μοντέλο γλώσσας και γιατί μπορεί να δώσει λανθασμένη απάντηση με σιγουριά.
- Να εφαρμόζεις κανόνες υπεύθυνης χρήσης της γεννητικής ΤΝ στο σχολείο: δήλωση, έλεγχος, προστασία προσωπικών δεδομένων.

## Τι λέμε τεχνητή νοημοσύνη

**Τεχνητή νοημοσύνη** (ΤΝ, artificial intelligence) λέμε τα συστήματα υπολογιστών που κάνουν εργασίες για τις οποίες ως τώρα χρειαζόταν ανθρώπινη κρίση: αναγνωρίζουν πρόσωπα σε φωτογραφίες, μεταφράζουν, προτείνουν το επόμενο βίντεο, απαντούν σε ερωτήσεις, γράφουν κείμενα.

Τη συναντάς ήδη κάθε μέρα, συχνά χωρίς να το καταλαβαίνεις: στο φίλτρο που πετά τα ανεπιθύμητα μηνύματα, στην κάμερα του κινητού που «βρίσκει» τα πρόσωπα, στους αυτόματους υπότιτλους, στις προτάσεις μιας πλατφόρμας βίντεο.

## Από τους κανόνες στα παραδείγματα

Στις προηγούμενες ενότητες **εσύ** έγραφες τους κανόνες: `if vathmos >= 10:`. Ο υπολογιστής απλώς τους εκτελούσε.

Φαντάσου τώρα ότι θέλεις ένα πρόγραμμα που ξεχωρίζει φωτογραφίες με γάτες από φωτογραφίες με σκύλους. Ποιους κανόνες θα έγραφες; «Αν έχει μυτερά αυτιά»; Κάποιοι σκύλοι έχουν. «Αν είναι μικρό»; Κάποιες γάτες είναι μεγάλες. Οι κανόνες δεν τελειώνουν ποτέ.

Η **μηχανική μάθηση** (machine learning) αντιστρέφει τη δουλειά. Δεν γράφεις κανόνες. Δίνεις στον υπολογιστή **χιλιάδες παραδείγματα** με τη σωστή απάντηση, «αυτή είναι γάτα», «αυτός είναι σκύλος», και ένας αλγόριθμος ψάχνει μόνος του **μοτίβα** που τα ξεχωρίζουν.

| Όρος                     | Τι σημαίνει                                               | Στο φίλτρο ανεπιθύμητων μηνυμάτων                                      |
| ------------------------ | --------------------------------------------------------- | ---------------------------------------------------------------------- |
| **Δεδομένα εκπαίδευσης** | τα παραδείγματα από τα οποία μαθαίνει                     | εκατομμύρια μηνύματα, χαρακτηρισμένα «ανεπιθύμητο» ή «κανονικό»        |
| **Εκπαίδευση**           | η αναζήτηση μοτίβων στα παραδείγματα                      | ποιες λέξεις, αποστολείς, σύνδεσμοι εμφανίζονται συχνά στα ανεπιθύμητα |
| **Μοντέλο**              | αυτό που προκύπτει: ένα πρόγραμμα που κρίνει νέα δεδομένα | το φίλτρο που τρέχει στο γραμματοκιβώτιό σου                           |
| **Πρόβλεψη**             | η απάντηση του μοντέλου για κάτι που δεν έχει ξαναδεί     | «αυτό το νέο μήνυμα είναι μάλλον ανεπιθύμητο»                          |

Το μοντέλο **δεν καταλαβαίνει** τι είναι γάτα ή τι είναι απάτη. Έχει βρει στατιστικές κανονικότητες στα παραδείγματα, και τις εφαρμόζει. Όσο πιο πολλά, ποικίλα και σωστά είναι τα παραδείγματα, τόσο καλύτερα δουλεύει. Αλλά και το αντίστροφο.

## Όταν τα δεδομένα κουβαλούν προκαταλήψεις

> **Κλειδί**
>
> **Ένα μοντέλο μαθαίνει ό,τι υπάρχει στα δεδομένα του, και τα καλά και τα άδικα.**
>
> Αν τα παραδείγματα προέρχονται από έναν κόσμο με ανισότητες, ή αν μια ομάδα ανθρώπων λείπει από αυτά, το μοντέλο θα αναπαράγει τις ανισότητες και θα κάνει περισσότερα λάθη για την ομάδα που έλειπε. Και θα το κάνει με ταχύτητα, σε τεράστια κλίμακα, και με ένα κύρος «αντικειμενικότητας» που δύσκολα αμφισβητείται.

Τρία πραγματικά παραδείγματα:

- **Πρόσληψη προσωπικού.** Το 2018 έγινε γνωστό ότι μια μεγάλη εταιρεία ηλεκτρονικού εμπορίου εγκατέλειψε ένα πειραματικό σύστημα που βαθμολογούσε βιογραφικά. Είχε εκπαιδευτεί σε βιογραφικά δέκα ετών, κυρίως ανδρών, και είχε «μάθει» να υποβαθμίζει βιογραφικά που περιείχαν τη λέξη «γυναικών», π.χ. «αρχηγός της ομάδας σκακιού γυναικών».
- **Αναγνώριση προσώπων.** Η έρευνα «Gender Shades» (Buolamwini και Gebru, 2018) δοκίμασε τρία εμπορικά συστήματα που αναγνώριζαν το φύλο από φωτογραφίες προσώπων. Στους άνδρες με ανοιχτόχρωμο δέρμα το λάθος ήταν κάτω από $1\%$· στις γυναίκες με σκούρο δέρμα έφτανε σε ένα σύστημα περίπου το $35\%$. Η πιθανότερη εξήγηση: οι συλλογές φωτογραφιών με τις οποίες φτιάχνονταν και δοκιμάζονταν τέτοια συστήματα είχαν κυρίως ανοιχτόχρωμα πρόσωπα, και κυρίως ανδρών.
- **Βαθμοί εξετάσεων.** Το 2020, στην Αγγλία, οι εξετάσεις ακυρώθηκαν λόγω της πανδημίας και οι βαθμοί υπολογίστηκαν με έναν αλγόριθμο που έλαβε υπόψη και τις παλιές επιδόσεις κάθε σχολείου. Περίπου τέσσερις στους δέκα βαθμούς που είχαν προτείνει οι καθηγητές κατέβηκαν, και οι μαθητές από σχολεία με χαμηλότερες επιδόσεις στο παρελθόν επηρεάστηκαν δυσανάλογα. Μετά από διαμαρτυρίες, η κυβέρνηση απέσυρε τα αποτελέσματα του αλγορίθμου.

Κανένα από αυτά τα συστήματα δεν φτιάχτηκε με πρόθεση να αδικήσει. Η μεροληψία μπήκε **από τα δεδομένα** και από τις επιλογές σχεδιασμού, και φάνηκε μόνο όταν κάποιος έλεγξε τα αποτελέσματα ανά ομάδα ανθρώπων.

## Γεννητική τεχνητή νοημοσύνη

Τα συστήματα που γράφουν κείμενο, φτιάχνουν εικόνες ή συνθέτουν μουσική λέγονται **γεννητικά** (generative). Τα **μεγάλα γλωσσικά μοντέλα**, που βρίσκονται πίσω από τις συνομιλίες με ΤΝ, έχουν εκπαιδευτεί σε τεράστιες ποσότητες κειμένου για να κάνουν ένα πράγμα: να προβλέπουν **ποια λέξη ταιριάζει να έρθει μετά**, ξανά και ξανά.

Το αποτέλεσμα είναι εντυπωσιακό: κείμενα που διαβάζονται σαν ανθρώπινα, εξηγήσεις, περιλήψεις, κώδικας. Αλλά ο τρόπος που δουλεύουν εξηγεί και την πιο σημαντική τους αδυναμία.

> **Πρόσεχε**
>
> **Ένα γλωσσικό μοντέλο μπορεί να γράψει κάτι λάθος με απόλυτη σιγουριά.**
>
> Αφού παράγει κείμενο που **μοιάζει** σωστό, μπορεί να επινοήσει ημερομηνίες, αριθμούς, παραθέματα, ακόμη και βιβλία και άρθρα που δεν υπήρξαν ποτέ. Αυτό λέγεται **παραίσθηση** (hallucination). Το κείμενο δεν δείχνει καμία διαφορά ανάμεσα στο σωστό και στο επινοημένο.
>
> Γι' αυτό κάθε πληροφορία που θα χρησιμοποιήσεις την **ελέγχεις** σε αξιόπιστη πηγή: το σχολικό βιβλίο, μια εγκυκλοπαίδεια, έναν επίσημο ιστότοπο.

Η γεννητική ΤΝ φτιάχνει και **εικόνες, ήχο και βίντεο** που δεν διακρίνονται εύκολα από αληθινά. Τα **deepfakes**, ψεύτικα βίντεο ή ηχητικά με το πρόσωπο ή τη φωνή υπαρκτών ανθρώπων, χρησιμοποιούνται για παραπληροφόρηση, απάτες και εκφοβισμό. Ένα ψεύτικο βίντεο με συμμαθητή σου δεν είναι «αστείο»: είναι βλάβη σε έναν άνθρωπο, και μπορεί να είναι και παράνομο.

## Οφέλη και ερωτήματα

Η ΤΝ δεν είναι ούτε μαγεία ούτε απειλή από μόνη της. Είναι εργαλείο, και το αποτέλεσμα εξαρτάται από το πώς φτιάχνεται και πώς χρησιμοποιείται.

| Εκεί που βοηθά                                                           | Εκεί που γεννά ερωτήματα                                                   |
| ------------------------------------------------------------------------ | -------------------------------------------------------------------------- |
| εντοπίζει ενδείξεις ασθενειών σε ιατρικές εικόνες, ως βοηθός του γιατρού | προσωπικά δεδομένα: τι συλλέγεται, πού αποθηκεύεται, ποιος το χρησιμοποιεί |
| αυτόματοι υπότιτλοι και περιγραφές εικόνων για άτομα με αναπηρία         | δουλειές που αλλάζουν ή χάνονται                                           |
| μετάφραση ανάμεσα σε γλώσσες                                             | παραπληροφόρηση και deepfakes                                              |
| προγνώσεις καιρού, έρευνα για νέα υλικά και φάρμακα                      | η ενέργεια και το νερό που καταναλώνουν τα κέντρα δεδομένων                |

Στην Ευρωπαϊκή Ένωση ο **Κανονισμός για την Τεχνητή Νοημοσύνη** (Κανονισμός (ΕΕ) 2024/1689, γνωστός ως AI Act) τέθηκε σε ισχύ τον Αύγουστο του 2024 και εφαρμόζεται σταδιακά. Κατατάσσει τα συστήματα ανάλογα με τον **κίνδυνο** που δημιουργούν. Κάποιες χρήσεις απαγορεύονται από τον Φεβρουάριο του 2025, όπως η «κοινωνική βαθμολόγηση» των ανθρώπων. Άλλες θεωρούνται **υψηλού κινδύνου**, ανάμεσά τους συστήματα που βαθμολογούν μαθητές ή επιλέγουν υποψηφίους για μια θέση εργασίας, και πρέπει να ελέγχονται αυστηρά· μετά από μια τροποποίηση του 2026, οι αναλυτικοί κανόνες γι' αυτά εφαρμόζονται από τον Δεκέμβριο του 2027. Και από τον Αύγουστο του 2026, όταν μιλάς με ένα σύστημα ΤΝ ή βλέπεις ένα deepfake, πρέπει κατά κανόνα να το ξέρεις.

## Υπεύθυνη χρήση στο σχολείο

Η γεννητική ΤΝ μπορεί να σε βοηθήσει να μάθεις, ή να σε εμποδίσει. Η διαφορά είναι στο **πώς** τη χρησιμοποιείς.

1. **Μάθε τους κανόνες.** Κάθε σχολείο και κάθε καθηγητής μπορεί να έχει διαφορετικούς κανόνες για κάθε εργασία. Αν δεν είναι σαφές, ρώτα πριν.
2. **Δήλωνε τη χρήση.** Αν σε βοήθησε ένα εργαλείο ΤΝ, γράψε πού και πώς. Κείμενο που έγραψε η ΤΝ και παραδίδεις ως δικό σου είναι **λογοκλοπή**, όπως αν το είχες αντιγράψει από έναν συμμαθητή.
3. **Κάνε πρώτα τη σκέψη εσύ.** Χρησιμοποίησέ την για να σου εξηγήσει κάτι με άλλον τρόπο, να σου δώσει ασκήσεις εξάσκησης, να σχολιάσει ένα κείμενο που **έγραψες ήδη**. Όχι για να γράψει τη λύση στη θέση σου: αυτό που δεν σκέφτηκες, δεν το έμαθες.
4. **Έλεγχε ό,τι σου λέει.** Κάθε γεγονός, αριθμό και πηγή, σε αξιόπιστη πηγή. Ιδιαίτερα τις παραπομπές: μπορεί να μην υπάρχουν.
5. **Προστάτευε τα προσωπικά δεδομένα.** Μη γράφεις σε ένα εργαλείο ΤΝ ονόματα, διευθύνσεις, τηλέφωνα, φωτογραφίες ή πληροφορίες υγείας, ούτε δικές σου ούτε άλλων. Ό,τι γράφεις μπορεί να αποθηκευτεί.
6. **Σεβάσου τους όρους χρήσης.** Πολλές υπηρεσίες έχουν κατώτατο όριο ηλικίας και ζητούν συναίνεση γονέα για ανηλίκους. Στην Ελλάδα, όταν μια διαδικτυακή υπηρεσία στηρίζεται στη συγκατάθεσή σου για να επεξεργαστεί τα προσωπικά σου δεδομένα, κάτω από τα $15$ χρειάζεται και η συγκατάθεση γονέα (ν. 4624/2019, άρθρο 21). Διάβασε τους όρους πριν ανοίξεις λογαριασμό.

*Διαδραστικό στη σελίδα: Υπεύθυνη χρήση ή όχι;*

## Παραδείγματα

### Παράδειγμα 1: Το σύστημα αξιολόγησης βιογραφικών που έγινε γνωστό το 2018 δεν είχε καμία εντολή του τύπου «προτίμησε άνδρες». Πώς κατέληξε να αδικεί τις γυναίκες;

1. **Τα δεδομένα εκπαίδευσης:** τα βιογραφικά που είχε λάβει η εταιρεία τα προηγούμενα δέκα χρόνια. Σε αυτές τις τεχνικές θέσεις, η μεγάλη πλειονότητα των υποψηφίων ήταν άνδρες.
2. **Τι έμαθε το μοντέλο:** να βρίσκει ό,τι κοινό είχαν τα «επιτυχημένα» βιογραφικά. Ένα από αυτά ήταν η **απουσία** λέξεων που συνδέονται με γυναίκες, όπως η λέξη «γυναικών» σε μια φράση σαν «ομάδα σκακιού γυναικών», ή τα ονόματα κολεγίων μόνο για γυναίκες.
3. **Το αποτέλεσμα:** το μοντέλο υποβάθμιζε βιογραφικά με αυτές τις λέξεις. Δεν «ήξερε» τι είναι φύλο: αναπαρήγαγε ένα μοτίβο του παρελθόντος σαν να ήταν κανόνας.
4. **Το μάθημα:** ένα μοντέλο που μαθαίνει από το παρελθόν μπορεί να κάνει τις αδικίες του παρελθόντος αυτόματες. Γι' αυτό τέτοια συστήματα πρέπει να ελέγχονται για το πώς φέρονται σε **κάθε** ομάδα ανθρώπων, και ένας άνθρωπος να έχει τον τελευταίο λόγο.

### Παράδειγμα 2: Για μια εργασία στην Ιστορία, με την άδεια του καθηγητή, χρησιμοποιείς ένα εργαλείο γεννητικής ΤΝ. Αυτό σου απαντά με μια ημερομηνία και μια παραπομπή σε βιβλίο. Πώς προχωράς υπεύθυνα;

1. **Πρώτα η δική σου σκέψη.** Γράφεις ο ίδιος ένα πρώτο διάγραμμα της εργασίας: ποια ερωτήματα θέλεις να απαντήσεις. Το εργαλείο το χρησιμοποιείς για να καταλάβεις ό,τι σου φαίνεται δύσκολο.
2. **Έλεγχος της ημερομηνίας.** Την ψάχνεις στο σχολικό βιβλίο ή σε μια αξιόπιστη εγκυκλοπαίδεια. Αν δεν συμφωνεί, κρατάς αυτό της αξιόπιστης πηγής.
3. **Έλεγχος της παραπομπής.** Ψάχνεις το βιβλίο με τον τίτλο και τον συγγραφέα σε έναν κατάλογο βιβλιοθήκης. Αν δεν το βρεις πουθενά, είναι πολύ πιθανό να είναι επινοημένο, και **δεν** μπαίνει στη βιβλιογραφία.
4. **Δήλωση.** Στο τέλος της εργασίας γράφεις μια σύντομη σημείωση: ποιο εργαλείο χρησιμοποίησες και για τι, π.χ. «για να μου εξηγήσει τα αίτια του πολέμου· όλα τα στοιχεία ελέγχθηκαν στο σχολικό βιβλίο».

> **Θυμήσου**
>
> - Η μηχανική μάθηση βρίσκει μοτίβα σε **παραδείγματα**· το μοντέλο δεν «καταλαβαίνει».
> - Μεροληπτικά ή ελλιπή δεδομένα δίνουν μεροληπτικό μοντέλο.
> - Τα γλωσσικά μοντέλα προβλέπουν την επόμενη λέξη και μπορεί να επινοήσουν στοιχεία με σιγουριά: **έλεγχε**.
> - Στο σχολείο: κανόνες, δήλωση, δική σου σκέψη, έλεγχος, κανένα προσωπικό δεδομένο.

## Ερωτήσεις

1. Ποια είναι η βασική διαφορά της μηχανικής μάθησης από ένα πρόγραμμα με if που γράφεις εσύ;
   - το σύστημα βρίσκει μόνο του μοτίβα από παραδείγματα, αντί να του γράψεις τους κανόνες
   - το σύστημα καταλαβαίνει τι σημαίνουν τα δεδομένα όπως ένας άνθρωπος
   - το σύστημα δεν χρειάζεται δεδομένα
   - το σύστημα δεν κάνει ποτέ λάθη
2. Ένα φίλτρο ανεπιθύμητων μηνυμάτων εκπαιδεύεται. Τι είναι τα δεδομένα εκπαίδευσης;
   - πολλά μηνύματα, το καθένα χαρακτηρισμένο ως ανεπιθύμητο ή κανονικό
   - το νέο μήνυμα που μόλις έφτασε
   - ένας κατάλογος κανόνων που έγραψε ο προγραμματιστής
   - ο κωδικός του λογαριασμού σου
3. Από πού προέρχεται συνήθως η μεροληψία ενός συστήματος μηχανικής μάθησης;
   - από δεδομένα εκπαίδευσης που αντανακλούν ανισότητες ή δεν αντιπροσωπεύουν όλες τις ομάδες
   - από κακόβουλους προγραμματιστές που γράφουν επίτηδες άδικους κανόνες στον κώδικα
   - από ιούς που μολύνουν τον υπολογιστή και αλλοιώνουν τις αποφάσεις του
   - από το ότι οι υπολογιστές αποκτούν δικές τους απόψεις και προτιμήσεις με τον καιρό
4. Τι έδειξε η έρευνα «Gender Shades» για τα εμπορικά συστήματα αναγνώρισης προσώπων;
   - έκαναν πολύ περισσότερα λάθη στις γυναίκες με σκούρο δέρμα
   - έκαναν τα ίδια λάθη σε όλες τις ομάδες
   - δεν έκαναν κανένα λάθος
   - έκαναν περισσότερα λάθη στους άνδρες με ανοιχτόχρωμο δέρμα
5. Τι κάνει βασικά ένα μεγάλο γλωσσικό μοντέλο όταν γράφει μια απάντηση;
   - προβλέπει ξανά και ξανά ποια λέξη ταιριάζει να έρθει μετά
   - ψάχνει την απάντηση σε μια βάση με ελεγμένα γεγονότα
   - ρωτά έναν άνθρωπο και μεταφέρει την απάντησή του
   - αντιγράφει ολόκληρο ένα κείμενο από το διαδίκτυο
6. Ένα εργαλείο ΤΝ σου δίνει μια παραπομπή σε ένα βιβλίο με τίτλο και συγγραφέα. Τι κάνεις πριν τη χρησιμοποιήσεις;
   - ελέγχεις ότι το βιβλίο υπάρχει και λέει όντως αυτό
   - τίποτα, αφού έχει τίτλο και συγγραφέα
   - ρωτάς το ίδιο εργαλείο αν είναι σίγουρο
   - τη χρησιμοποιείς, αλλά χωρίς να γράψεις τον συγγραφέα
7. Ένα εργαλείο ΤΝ σε βοήθησε να οργανώσεις την εργασία σου, με την άδεια του καθηγητή. Τι κάνεις;
   - το δηλώνεις στην εργασία: ποιο εργαλείο και για τι
   - δεν το αναφέρεις, αφού το κείμενο το έγραψες εσύ
   - σβήνεις ό,τι σου πρότεινε για να μη φαίνεται
   - γράφεις το εργαλείο ως συγγραφέα της εργασίας
8. Ποιο από τα παρακάτω δεν πρέπει να γράψεις σε ένα εργαλείο γεννητικής ΤΝ;
   - το ονοματεπώνυμο, τη διεύθυνση και το τηλέφωνο ενός φίλου σου
   - μια ερώτηση για το πώς λύνεται μια εξίσωση
   - ένα κείμενο που έγραψες για ένα φανταστικό πρόσωπο
   - μια ερώτηση για το τι σημαίνει μια λέξη
9. Τι είναι ένα deepfake;
   - ψεύτικο βίντεο ή ηχητικό, φτιαγμένο με ΤΝ, με το πρόσωπο ή τη φωνή υπαρκτού ανθρώπου
   - ένα βίντεο κακής ποιότητας, θολό ή με κομμένο ήχο, που ανέβηκε στο διαδίκτυο
   - ένας ιός που κρύβεται μέσα σε ένα αρχείο βίντεο και μολύνει τον υπολογιστή
   - ένα φίλτρο εφαρμογής που αλλάζει τα χρώματα και τη φωτεινότητα μιας φωτογραφίας
10. Πώς οργανώνει ο ευρωπαϊκός Κανονισμός για την Τεχνητή Νοημοσύνη τους κανόνες του;
   - ανάλογα με τον κίνδυνο που δημιουργεί κάθε χρήση
   - απαγορεύει κάθε χρήση ΤΝ στην Ευρώπη
   - ανάλογα με τη χώρα όπου κατασκευάστηκε το σύστημα
   - ανάλογα με το πόσο ακριβό είναι το σύστημα

## Ασκήσεις

1. Πώς λέγονται τα παραδείγματα με γνωστή απάντηση από τα οποία μαθαίνει ένα σύστημα μηχανικής μάθησης;
2. Πώς λέγεται το φαινόμενο κατά το οποίο ένα γλωσσικό μοντέλο επινοεί με σιγουριά στοιχεία ή πηγές που δεν υπάρχουν;
3. Ένα μοντέλο που αναγνωρίζει δερματικές παθήσεις από φωτογραφίες εκπαιδεύτηκε σχεδόν μόνο με φωτογραφίες ανοιχτόχρωμου δέρματος.
   α) Σε ποιους ανθρώπους είναι πιθανό να κάνει περισσότερα λάθη;
   β) Τι θα μείωνε αυτό το πρόβλημα;
4. Σε μια ομάδα συνομιλίας της τάξης κυκλοφορεί ένα ηχητικό όπου ένας συμμαθητής σου ακούγεται να λέει προσβλητικά πράγματα για έναν άλλον. Ο ίδιος λέει ότι δεν τα είπε ποτέ.
   α) Τι μπορεί να είναι αυτό το ηχητικό;
   β) Το προωθείς για να το ακούσουν κι άλλοι;
   γ) Σε ποιον απευθύνεσαι;

---

Οι απαντήσεις, τα διαδραστικά και τα παιχνίδια είναι στη σελίδα της ενότητας: https://www.akademio.gr/el/gym-c/informatics/ai-society
