Δημιουργία chatbot με χρήση γλωσσικών μοντέλων και βαθιάς μάθησης για την απάντηση ερωτήσεων πελατών

Author nameΝικόλαος Τζανής
Title
Δημιουργία chatbot με χρήση γλωσσικών μοντέλων και βαθιάς μάθησης για την απάντηση ερωτήσεων πελατών
Year2024-2025
Supervisor

Efstathios Stamatatos

Efstathios Stamatatos

Summary

Η παρούσα διπλωματική εργασία αφορά τη δημιουργία ενός chatbot που βασίζεται σε τεχνητή νοημοσύνη για την απάντηση ερωτήσεων πελατών. Το έργο βασίζεται σε μια αρχιτεκτονική τύπου Retrieval-Augmented Generation (RAG), αξιοποιώντας μεγάλα γλωσσικά μοντέλα (LLMs) για την παροχή ακριβών απαντήσεων, εμπλουτισμένων με σχετικό περιεχόμενο που αντλείται από εξωτερικές, παρεχόμενες από τον χρήστη, πηγές γνώσης. Το chatbot RAG χρησιμοποιεί έναν μηχανισμό ανάκτησης που λαμβάνει υπόψη το ιστορικό συνομιλίας, σε συνδυασμό με ένα LLM, για τη διατύπωση αναδιατυπωμένων ερωτημάτων από τον χρήστη. Αυτό διασφαλίζει ουσιαστική και ακριβή ανάκτηση πληροφοριών από τη βάση συμφραζομένων, η οποία περιλαμβάνει αποδελτιωμένα έγγραφα και προεπεξεργασμένες ενότητες γνώσης.

Η παρούσα υλοποίηση εφαρμόζει σύγχρονες τεχνικές στα LLMs, όπως το Langchain, το Groq και μοντέλα ενσωμάτωσης (embeddings) από το HuggingFace, για την αποδοτική αναπαράσταση με διανύσματα. Μια δυναμική αλυσίδα ανάκτησης εγγράφων συνδυάζεται με διαλογική διεπαφή, ώστε να παρέχει απαντήσεις προσαρμοσμένες στην εισαγωγή του χρήστη. Η αξιολόγηση των LLMs του chatbot RAG πραγματοποιήθηκε με τη χρήση της βιβλιοθήκης RAGAS, εστιάζοντας σε ποικίλες σχετικές μετρικές που παρέχει το εν λόγω πλαίσιο. Τα αποτελέσματα καταδεικνύουν ότι το προτεινόμενο chatbot, βασισμένο στην αρχιτεκτονική RAG, μπορεί να επιτυγχάνει αποτελεσματικά ισορροπία μεταξύ της ακρίβειας ανάκτησης και των δημιουργικών δυνατοτήτων, προσφέροντας μια αξιόπιστη λύση για την απάντηση ερωτήσεων πελατών.