Στοχος
Με την επιτυχή ολοκλήρωση του μαθήματος ο φοιτητής / η φοιτήτρια θα είναι σε θέση να:
- Κατανοεί την σημασία της ηθικής και αξιόπιστης Τεχνητής Νοημοσύνης (ΤΝ), τις ηθικές προκλήσεις και τα ηθικά ερωτήματα που τίθενται κατά την ανάπτυξη ενός συστήματος ΤΝ.
- Κατανοεί βασικές έννοιες που περιγράφουν την αξιόπιστη ΤΝ και πως αυτές μπορούν να εφαρμοστούν στην πράξη κατά τη διάρκεια την ανάπτυξη μεθόδων ΤΝ
- Κατανοεί τις δυσκολίες που επιβάλλει η αλληλεπίδραση των ανθρώπων με την ΤΝ στην ανάπτυξη αλγορίθμων ΤΝ
- Αποκτά μία πλήρη εικόνα του ρυθμιστικού πλαισίου που αφορά ή σχετίζεται με την ΤΝ μέσα από μία αναλυτική νομική ταξονομία.
- Γνωρίζει και να εφαρμόζει μεθόδους αξιολόγησης για τη συμμόρφωση ενός συστήματος με τις αρχές της ηθικής και αξιόπιστης ΤΝ
Επιπλέον το μάθημα αποσκοπεί στις ακόλουθες γενικές ικανότητες των φοιτητών
- Ικανότητα οργάνωσης και σχεδιασμού εργασίας και διαχείρισης του χρόνου
- Ικανότητα τεκμηριωμένης επικοινωνίας (προφορικής και γραπτής)
- Ικανότητα επίλυσης προβλημάτων
- Ικανότητα ανάπτυξης κριτικής σκέψης και ικανότητα για κριτικές προσεγγίσεις
- Ικανότητα για ομαδική εργασία
- Ικανότητα διεπιστημονικών προσεγγίσεων
- Ικανότητα εφαρμογής των θεωρητικών γνώσεων στην πράξη
- Ικανότητα για έρευνα
- Άσκηση κριτικής και αυτοκριτικής
Περιεχομενα
- Εισαγωγή στην ηθική της Τεχνητής Νοημοσύνης (ΤΝ): Τι είναι ηθική; Μέσα σε ποιο ηθικό πλαίσιο καλούμαστε να αναπτύξουμε ΤΝ;
- Προσδιορισμός ηθικών αξιών: Βιωματικό εργαστήριο αποτύπωσης ηθικών διλημμάτων όπως προκύπτουν στην αρχαία ελληνική τραγωδία (βασισμένο στη μεθοδολογία που έχει αναπτυχθεί στα πλαίσια του ερευνητικού έργου VAST)
- Διακυβέρνηση Δεδομένων (ΔΔ): Μοντέλα ΔΔ. Κοινοί Ευρωπαϊκοί Χώροι Δεδομένων. Δεδομένα εκπαίδευσης ΤΝ
- Συστήματα ΤΝ και το πρόβλημα της "Ευθυγράμμισης" (The Alignment Problem): Εργαλεία εφαρμογής αξιόπιστης ΤΝ
- Νομικό πλαίσιο: Περιγραφή της κανονιστικής ταξονομίας: GDPR, AIAct, Data Governance Act
- Εκτίμηση Ρίσκου/Αντικτύπου: Εργαλεία επιμέτρησης διαφορετικών τύπων κινδύνου
- Πρότυπα ΤΝ με γνώμονα την ηθική: Ο ρόλος των προτύπων και πρακτικές εφαρμογές για την αντιμετώπιση ηθικών προκλήσεων στο πεδίο
- Ηθικά διλήμματα σε σύνθετα συστήματα: Περιγραφή σχετικών ηθικών θεωριών
- Σενάριο εργασίας 1: Εφαρμογή των εργαλείων που αναφέρθηκαν στο μάθημα για την αξιολόγηση ενός συστήματος ΤΝ
- Σενάριο εργασίας 2: Εφαρμογή των εργαλείων που αναφέρθηκαν στο μάθημα για την αξιολόγηση ενός συστήματος ΤΝ
Ενδεικτικη βιβλιογραφια
Books
- Shosana Zuboff. 2019. The Age of Surveillance Capitalism: The Fight for a human future at the new Frontier of Power.
- Jaron Lanier. 2014. Who Owns the Future.
- Kat Holmes. 2019. Mismatch, How Inclusion Shapes Design, MIT Press.
- Cathy O’Neil. 2016. Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy.
- Brian Christian. 2020. The Alignment Problem.
Papers
Legal Drafts
- A European Strategy for Data (2020).
- Proposal for a Regulation on European Data Governance.
- Data Governance Q&A.
- The Digital Services Act package.
