Από την πρόβλεψη λέξεων στην πρόβλεψη του κόσμου

Η σημερινή άνθηση της Τεχνητής Νοημοσύνης έχει συνδεθεί κυρίως με τα μεγάλα γλωσσικά μοντέλα. Όμως ένα από τα σημαντικότερα ερευνητικά πεδία για την επόμενη φάση της ΤΝ βρίσκεται στα μοντέλα κόσμου. Πρόκειται για συστήματα που δεν μαθαίνουν απλώς να προβλέπουν το επόμενο σύμβολο ή την επόμενη εικόνα, αλλά επιχειρούν να μάθουν πώς μεταβάλλεται ένα περιβάλλον όταν ένας πράκτορας ενεργεί μέσα σε αυτό.

Ένα μοντέλο κόσμου μπορεί, για παράδειγμα, να δεχθεί την εικόνα που βλέπει ένα ρομπότ, την κατάσταση των αισθητήρων του και μια ενέργεια, και να προβλέψει τι είναι πιθανό να συμβεί στη συνέχεια. Με αυτόν τον τρόπο ο πράκτορας μπορεί να δοκιμάζει εικονικά διαφορετικές ενέργειες πριν τις εκτελέσει στον πραγματικό κόσμο.

Αυτή η δυνατότητα είναι κρίσιμη για τη ρομποτική, τα αυτόνομα συστήματα και την ενισχυτική μάθηση. Η εκπαίδευση ενός ρομπότ αποκλειστικά με πραγματικά πειράματα είναι αργή, ακριβή και συχνά επικίνδυνη. Με ένα επαρκώς αξιόπιστο μοντέλο κόσμου, μεγάλο μέρος της μάθησης μπορεί να πραγματοποιείται σε προσομοιωμένες εμπειρίες.

Τα ανοιχτά μοντέλα αλλάζουν τον τρόπο με τον οποίο γίνεται η έρευνα

Το DreamerV3 αποτελεί χαρακτηριστικό παράδειγμα. Μαθαίνει ένα μοντέλο του περιβάλλοντος και εκπαιδεύει τον πράκτορα πάνω σε διαδρομές που δημιουργούνται μέσα σε αυτό το μαθημένο περιβάλλον. Η έρευνα έδειξε ότι η ίδια γενική προσέγγιση μπορεί να εφαρμοστεί σε περισσότερες από 150 διαφορετικές εργασίες χωρίς ξεχωριστή ρύθμιση για κάθε περίπτωση.

Το DIAMOND ακολουθεί διαφορετική κατεύθυνση, χρησιμοποιώντας μοντέλα διάχυσης για την αναπαράσταση του περιβάλλοντος. Ο πράκτορας μπορεί να εκπαιδευθεί μέσα στον κόσμο που παράγει το μοντέλο και όχι μόνο μέσα στην πραγματική μηχανή προσομοίωσης.

Αυτό όμως δεν σημαίνει ότι κάθε σύστημα παραγωγής βίντεο είναι μοντέλο κόσμου. Για να έχει ουσιαστική χρησιμότητα στη ρομποτική, το σύστημα πρέπει να μπορεί να συσχετίζει ενέργειες με τις συνέπειές τους και να διατηρεί επαρκή συνέπεια στη δυναμική του περιβάλλοντος. Η φωτορεαλιστική εικόνα από μόνη της δεν αποτελεί κατανόηση της φυσικής.

Η ανοιχτή διάθεση τέτοιων συστημάτων είναι ιδιαίτερα σημαντική. Επιτρέπει σε διαφορετικές ομάδες να ελέγχουν τις υποθέσεις των μοντέλων, να επαναλαμβάνουν πειράματα, να εντοπίζουν αποτυχίες και να αναπτύσσουν νέες μεθόδους αντί να περιορίζονται στη χρήση μιας κλειστής υπηρεσίας.

Η ανοιχτότητα είναι ολόκληρη τεχνολογική στοίβα

Στη ρομποτική δεν αρκεί να είναι διαθέσιμος ο πηγαίος κώδικας. Πρέπει να εξετάζεται τι είναι πραγματικά ανοιχτό σε κάθε επίπεδο: ο κώδικας εκπαίδευσης, τα βάρη του μοντέλου, τα δεδομένα, ο προσομοιωτής, η μηχανή φυσικής και τελικά το ίδιο το υλισμικό.

Έργα όπως το Open X-Embodiment δημιουργούν μια κοινή βάση δεδομένων από διαφορετικά ρομπότ. Τα OpenVLA και Octo δεν αποτελούν μοντέλα κόσμου με την αυστηρή έννοια, αλλά είναι ιδιαίτερα σημαντικά για το ίδιο οικοσύστημα, επειδή επιτρέπουν την εκπαίδευση γενικών πολιτικών ελέγχου πάνω σε δεδομένα πολλών διαφορετικών ρομποτικών συστημάτων.

Το LeRobot προχωρά ένα βήμα περισσότερο, συνδέοντας ανοιχτό λογισμικό, κοινά σύνολα δεδομένων, μοντέλα όρασης, γλώσσας και δράσης και προσιτό ρομποτικό υλισμικό. Έτσι η έρευνα στην ενσώματη ΤΝ παύει σταδιακά να απαιτεί εξοπλισμό διαθέσιμο μόνο σε λίγα μεγάλα εργαστήρια.

Τι μπορούν να κάνουν τα ελληνικά ερευνητικά εργαστήρια

Για ένα ελληνικό πανεπιστημιακό ή ερευνητικό εργαστήριο, η σωστή στρατηγική δεν είναι να επιχειρήσει από την πρώτη ημέρα να εκπαιδεύσει ένα τεράστιο μοντέλο κόσμου από μηδενική βάση.

Ένα εργαστήριο μπορεί να ξεκινήσει με DreamerV3 ή DIAMOND σε ελεγχόμενα περιβάλλοντα προσομοίωσης και να μελετήσει ζητήματα πρόβλεψης, σχεδιασμού ενεργειών και ενισχυτικής μάθησης. Στη συνέχεια μπορεί να προσθέσει πραγματικό ρομποτικό εξοπλισμό χαμηλού κόστους, να συλλέξει δικά του δεδομένα μέσω του LeRobot και να προσαρμόσει μοντέλα όπως τα Octo, OpenVLA ή SmolVLA στις δικές του εργασίες.

Το επόμενο βήμα είναι ιδιαίτερα ενδιαφέρον: η σύνδεση μιας γενικής πολιτικής ελέγχου με ένα τοπικά εκπαιδευμένο μοντέλο κόσμου. Το ρομπότ δεν θα μαθαίνει απλώς ποια ενέργεια αντιστοιχεί σε μια εντολή, αλλά θα μπορεί να αξιολογεί πιθανά αποτελέσματα πριν ενεργήσει.

Η Ελλάδα διαθέτει πεδία όπου τέτοια έρευνα μπορεί να αποκτήσει ιδιαίτερη αξία: γεωργική ρομποτική, επιθεώρηση ενεργειακών εγκαταστάσεων, αυτόνομα θαλάσσια συστήματα, πολιτική προστασία, διαχείριση υποδομών, πολιτιστική κληρονομιά και αυτοματισμούς μικρής βιομηχανικής παραγωγής.

Από καταναλωτές μοντέλων σε παραγωγούς κοινής γνώσης

Το σημαντικότερο πλεονέκτημα των ανοιχτών μοντέλων κόσμου για την Ελλάδα δεν είναι μόνο το χαμηλότερο κόστος. Είναι η δυνατότητα συμμετοχής στην ίδια την παραγωγή της τεχνολογίας.

Τα ελληνικά εργαστήρια μπορούν να δημοσιεύουν κώδικα, βάρη, σύνολα δεδομένων, περιγραφές αισθητήρων, αρχεία σχεδίασης ρομπότ και πρότυπα αξιολόγησης. Μπορούν να δημιουργήσουν κοινά ελληνικά και μεσογειακά σύνολα δεδομένων για γεωργία, θάλασσα, ενέργεια και πολιτική προστασία και να τα συνδέσουν με διεθνή ανοιχτά οικοσυστήματα.

Η μεγάλη ευκαιρία δεν είναι λοιπόν ένα ακόμη κλειστό «εθνικό μοντέλο». Είναι ένα δίκτυο ερευνητικών εργαστηρίων που χρησιμοποιεί κοινές ανοιχτές υποδομές, παράγει νέα δεδομένα και επιστρέφει τα αποτελέσματα στην επιστημονική κοινότητα. Στα μοντέλα κόσμου, όπως και στο ανοιχτό υλισμικό, η πραγματική τεχνολογική αυτονομία αρχίζει όταν μπορούμε όχι μόνο να χρησιμοποιούμε μια τεχνολογία, αλλά να την κατανοούμε, να την τροποποιούμε και να τη βελτιώνουμε.

Πηγές άρθρου:

1. Nature, Mastering diverse control tasks through world models: Η δημοσίευση για το DreamerV3 παρουσιάζει έναν γενικό αλγόριθμο ενισχυτικής μάθησης που μαθαίνει μοντέλο του περιβάλλοντος και εκπαιδεύεται πάνω σε προβλεπόμενες μελλοντικές καταστάσεις, με αξιολόγηση σε περισσότερες από 150 εργασίες: https://www.nature.com/articles/s41586-025-08744-2,
2. NeurIPS, Diffusion for World Modeling: Visual Details Matter in Atari: Η δημοσίευση του DIAMOND τεκμηριώνει την αξιοποίηση μοντέλων διάχυσης ως μοντέλων κόσμου για εκπαίδευση πρακτόρων ενισχυτικής μάθησης και τη διάθεση του κώδικα και των μοντέλων για αναπαραγωγή της έρευνας: https://proceedings.neurips.cc/paper_files/paper/2024/hash/6bdde0373d53d4a501249547084bed43-Abstract-Conference.html,
3. Google DeepMind, Open X-Embodiment: Το έργο ενοποιεί ανοιχτά δεδομένα ρομποτικής σε κοινή μορφή ώστε να μπορούν να χρησιμοποιούνται για εκπαίδευση και αξιολόγηση μοντέλων σε διαφορετικά ρομπότ και εργασίες: https://github.com/google-deepmind/open_x_embodiment,
4. OpenVLA, An Open-Source Vision-Language-Action Model: Το OpenVLA αποτελεί ανοιχτό μοντέλο όρασης, γλώσσας και δράσης 7 δισ. παραμέτρων, εκπαιδευμένο σε 970.000 ρομποτικές επιδείξεις, και προσφέρει κώδικα και δυνατότητα προσαρμογής σε νέα ρομποτικά συστήματα: https://openvla.github.io/,
5. Octo, An Open-Source Generalist Robot Policy: Το Octo αποτελεί ανοιχτή γενική πολιτική ρομποτικού ελέγχου, εκπαιδευμένη σε περίπου 800.000 τροχιές από το Open X-Embodiment και σχεδιασμένη ώστε να προσαρμόζεται σε διαφορετικούς αισθητήρες, χώρους δράσης και μορφές ρομπότ: https://octo-models.github.io/,
6. Hugging Face, LeRobot και SmolVLA: Το LeRobot δημιουργεί ανοιχτό οικοσύστημα συλλογής δεδομένων, εκπαίδευσης και εκτέλεσης ρομποτικών μοντέλων, ενώ το SmolVLA δείχνει ότι μοντέλα όρασης, γλώσσας και δράσης μπορούν να αξιοποιηθούν ακόμη και με προσιτό υπολογιστικό και ρομποτικό εξοπλισμό: https://huggingface.co/docs/lerobot/index.