Ηθική και Αξιόπιστη Τεχνητή Νοημοσύνη: Θεωρητικές Προσεγγίσεις & Πρακτικές Εφαρμογές

Εξάμηνο μαθήματος
1st semester
Course category
Compulsory
Πιστωτικές Μονάδες
6
Διδάσκοντες

Α. Νούσιας, Μ. Δαγιόγλου

Στοχος

Με την επιτυχή ολοκλήρωση του μαθήματος ο φοιτητής / η φοιτήτρια θα είναι σε θέση να:

  • Περιγράφει και υλοποιεί τη ροή εργασίας μίας τυπικής επιστημονικής μελέτης.
  • Σχηματίσει ένα ερευνητικό ερώτημα.
  • Σχηματίσει επιστημονικές υποθέσεις και να ορίσει μεθοδολογία επαλήθευσης ή κατάρριψης των υποθέσεων.
  • Επιλέγει μέθοδο στατιστικής στήριξης στο πλαίσιο μίας ερευνητικής εργασίας.
  • Αξιολογεί και υποδεικνύει μεθοδολογικά προβλήματα σε επιστημονικές εργασίες.
  • Να επικοινωνεί επιστημονικά αποτελέσματα επιτυχώς.
  • Εξηγεί έννοιες ηθικής στο πλαίσιο της επιστημονικής έρευνας.
  • Περιγράφει τις ηθικές προκλήσεις και τα ηθικά ερωτήματα μίας έρευνας, αλλά και να προτείνει σχετικές λύσεις.

Περιεχομενα

  • Εισαγωγή στην ηθική της Τεχνητής Νοημοσύνης (ΤΝ): Τι είναι ηθική; Μέσα σε ποιο ηθικό πλαίσιο καλούμαστε να αναπτύξουμε ΤΝ;
  • Προσδιορισμός ηθικών αξιών: Βιωματικό εργαστήριο αποτύπωσης ηθικών διλημμάτων όπως προκύπτουν στην αρχαία ελληνική τραγωδία (βασισμένο στη μεθοδολογία που έχει αναπτυχθεί στα πλαίσια του ερευνητικού έργου VAST).
  • Διακυβέρνηση Δεδομένων (ΔΔ): Μοντέλα ΔΔ. Κοινοί Ευρωπαϊκοί Χώροι Δεδομένων. Δεδομένα εκπαίδευσης ΤΝ.
  • Συστήματα ΤΝ και το πρόβλημα της "Ευθυγράμμισης" (The Alignment Problem): Εργαλεία εφαρμογής αξιόπιστης ΤΝ.
  • Νομικό πλαίσιο: Περιγραφή της κανονιστικής ταξονομίας: GDPR, AIAct, Data Governance Act.
  • Εκτίμηση Ρίσκου/Αντικτύπου: Εργαλεία επιμέτρησης διαφορετικών τύπων κινδύνου.
  • Πρότυπα ΤΝ με γνώμονα την ηθική: Ο ρόλος των προτύπων και πρακτικές εφαρμογές για την αντιμετώπιση ηθικών προκλήσεων στο πεδίο.
  • Ηθικά διλήμματα σε σύνθετα συστήματα: Περιγραφή σχετικών ηθικών θεωριών.
  • Σενάριο εργασίας 1: Εφαρμογή των εργαλείων που αναφέρθηκαν στο μάθημα για την αξιολόγηση ενός συστήματος ΤΝ.
  • Σενάριο εργασίας 2: Εφαρμογή των εργαλείων που αναφέρθηκαν στο μάθημα για την αξιολόγηση ενός συστήματος ΤΝ.

Επιπλέον, στον Eύδοξο αναρτώνται σε ηλεκτρονική μορφή άρθρα, οπτικοακουστικό υλικό διαλέξεων και διαδικτυακές διευθύνσεις για χρήσιμες πληροφορίες καθώς και ασκήσεις για την εξάσκηση των φοιτητών/τριών.

Παρουσιάζονται μελέτες περίπτωσης, παραδειγματικά προβλήματα και μέθοδοι επίλυσης αυτών κοκ .

Ενδεικτικη βιβλιογραφια

Books

  • Shosana Zuboff. 2019. The Age of Surveillance Capitalism: The Fight for a human future at the new Frontier of Power.
  • Jaron Lanier. 2014. Who Owns the Future.
  • Kat Holmes. 2019. Mismatch, How Inclusion Shapes Design, MIT Press.
  • Cathy O’Neil. 2016. Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy.
  • Brian Christian. 2020. The Alignment Problem.

Papers

Legal Drafts

  • A European Strategy for Data (2020).
  • Proposal for a Regulation on European Data Governance.
  • Data Governance Q&A.
  • The Digital Services Act package.