Περίληψη του άρθρου:

Το CSAIL του MIT ανέπτυξε μια μέθοδο χρησιμοποιώντας τεχνητή νοημοσύνη για τη βελτίωση της ακρίβειας προσομοίωσης μέσω της «δειγματοληψίας χαμηλής απόκλισης». Αυτή η καινοτόμος προσέγγιση, που ονομάζεται Message-Passing Monte Carlo (MPMC), χρησιμοποιεί δίκτυα νευρωνικών γραφημάτων για να ενισχύσει την επικοινωνία μεταξύ των σημείων, στη βελτιστοποίηση της ρύθμισης για εφαρμογές στη ρομποτική και τη χρηματοδότηση. Η τεχνική δείχνει σημαντικές βελτιώσεις σε σχέση με τις παραδοσιακές μεθόδους.

Κύρια σημεία του άρθρου:

• Το CSAIL του MIT ανέπτυξε μια μέθοδο για τη βελτίωση της ακρίβειας προσομοίωσης χρησιμοποιώντας την τεχνητή νοημοσύνη.
• Η προσέγγιση είναι γνωστή ως "δειγματοληψία χαμηλής απόκλισης".
• Η μέθοδος ονομάζεται Monte Message-Passing Monte Carlo (MPMC).
• Χρησιμοποιεί δίκτυα νευρικών γραφημάτων για την ενίσχυση της επικοινωνίας μεταξύ των σημείων.
• Βελτιστοποιεί τη ρύθμιση για εφαρμογές στη ρομποτική και τη χρηματοδότηση.
• Αποδεικνύει σημαντικές βελτιώσεις σε σχέση με τις παραδοσιακές μεθόδους.

Αναλυτικά το άρθρο:

Φανταστείτε ότι σας έχει ανατεθεί να στείλετε μια ομάδα ποδοσφαιριστών σε ένα γήπεδο για να αξιολογήσουν την κατάσταση του χόρτου (μια πιθανή εργασία γι' αυτούς, φυσικά). Αν διαλέξετε τις θέσεις τους τυχαία, μπορεί να συγκεντρωθούν μαζί σε ορισμένες περιοχές, ενώ να παραμελήσουν εντελώς άλλες. Αν όμως τους δώσετε μια στρατηγική, όπως να απλωθούν ομοιόμορφα σε όλο το γήπεδο, μπορεί να έχετε μια πολύ πιο ακριβή εικόνα της κατάστασης του γρασιδιού. Τώρα, φανταστείτε ότι πρέπει να απλωθούν όχι μόνο σε δύο διαστάσεις, αλλά σε δεκάδες ή και εκατοντάδες. Αυτή είναι η πρόκληση που αντιμετωπίζουν οι ερευνητές του Εργαστηρίου Επιστήμης Υπολογιστών και Τεχνητής Νοημοσύνης (CSAIL) του ΜΙΤ. Έχουν αναπτύξει μια προσέγγιση με βάση την τεχνητή νοημοσύνη για τη «δειγματοληψία χαμηλής απόκλισης», μια μέθοδο που βελτιώνει την ακρίβεια της προσομοίωσης, κατανέμοντας τα σημεία δεδομένων πιο ομοιόμορφα στο χώρο.

Μια βασική καινοτομία έγκειται στη χρήση νευρωνικών δικτύων γραφημάτων (GNN), τα οποία επιτρέπουν στα σημεία να «επικοινωνούν» και να αυτοβελτιστοποιούνται για καλύτερη ομοιομορφία. Η προσέγγισή τους σηματοδοτεί μια καίρια βελτίωση για προσομοιώσεις σε τομείς όπως η ρομποτική, η χρηματοοικονομική και η επιστήμη των υπολογισμών, ιδίως στο χειρισμό πολύπλοκων, πολυδιάστατων προβλημάτων που είναι κρίσιμα για ακριβείς προσομοιώσεις και αριθμητικούς υπολογισμούς.

«Σε πολλά προβλήματα, όσο πιο ομοιόμορφα μπορείτε να διανείμετε τα σημεία, τόσο με μεγαλύτερη ακρίβεια μπορείτε να προσομοιώσετε πολύπλοκα συστήματα», λέει ο T. Konstantin Rusch, επικεφαλής συγγραφέας της νέας δημοσίευσης και μεταδιδακτορικός ερευνητής του MIT CSAIL. «Αναπτύξαμε μια μέθοδο που ονομάζεται Message-Passing Monte Carlo (MPMC) για τη δημιουργία ομοιόμορφα κατανεμημένων σημείων, χρησιμοποιώντας γεωμετρικές τεχνικές βαθιάς μάθησης. Αυτό μας επιτρέπει επιπλέον να παράγουμε σημεία που δίνουν έμφαση σε διαστάσεις που είναι ιδιαίτερα σημαντικές για το εκάστοτε πρόβλημα, μια ιδιότητα που είναι εξαιρετικά σημαντική σε πολλές εφαρμογές. Τα νευρωνικά δίκτυα γραφημάτων που διέπουν το μοντέλο αφήνουν τα σημεία να «συνομιλούν» μεταξύ τους, επιτυγχάνοντας πολύ καλύτερη ομοιομορφία από προηγούμενες μεθόδους».

Η εργασία τους δημοσιεύθηκε στο τεύχος Σεπτεμβρίου του περιοδικού Proceedings of the National Academy of Sciences.

Πάρτε με στο Μόντε Κάρλο

Η ιδέα των μεθόδων Monte Carlo είναι να μάθουμε για ένα σύστημα προσομοιώνοντάς το με τυχαία δειγματοληψία. Δειγματοληψία είναι η επιλογή ενός υποσυνόλου ενός πληθυσμού για την εκτίμηση των χαρακτηριστικών ολόκληρου του πληθυσμού. Ιστορικά, χρησιμοποιήθηκε ήδη από τον 18ο αιώνα, όταν ο μαθηματικός Pierre-Simon Laplace τη χρησιμοποίησε για να εκτιμήσει τον πληθυσμό της Γαλλίας χωρίς να χρειαστεί να μετρήσει κάθε άτομο.

Οι ακολουθίες χαμηλής απόκλισης, δηλαδή οι ακολουθίες με χαμηλή απόκλιση, δηλαδή υψηλή ομοιομορφία, όπως οι Sobol', Halton και Niederreiter, αποτελούν εδώ και πολύ καιρό το χρυσό πρότυπο για την οιονεί τυχαία δειγματοληψία, η οποία ανταλλάσσει την τυχαία δειγματοληψία με τη δειγματοληψία χαμηλής απόκλισης. Χρησιμοποιούνται ευρέως σε τομείς όπως τα γραφικά υπολογιστών και τα υπολογιστικά χρηματοοικονομικά, για τα πάντα, από την τιμολόγηση δικαιωμάτων προαίρεσης έως την εκτίμηση κινδύνου, όπου η ομοιόμορφη πλήρωση χώρων με σημεία μπορεί να οδηγήσει σε πιο ακριβή αποτελέσματα. 

Το πλαίσιο MPMC που προτείνει η ομάδα μετατρέπει τα τυχαία δείγματα σε σημεία με υψηλή ομοιομορφία. Αυτό γίνεται με την επεξεργασία των τυχαίων δειγμάτων με ένα GNN που ελαχιστοποιεί ένα συγκεκριμένο μέτρο ασυμφωνίας.

Μια μεγάλη πρόκληση της χρήσης ΤΝ για τη δημιουργία σημείων με υψηλή ομοιομορφία είναι ότι ο συνήθης τρόπος μέτρησης της ομοιομορφίας σημείων είναι πολύ αργός στον υπολογισμό και δύσκολος στην εργασία. Για να το λύσει αυτό, η ομάδα μεταπήδησε σε ένα πιο γρήγορο και ευέλικτο μέτρο ομοιομορφίας που ονομάζεται L2-discrepancy. Για προβλήματα υψηλών διαστάσεων, όπου αυτή η μέθοδος δεν είναι αρκετή από μόνη της, χρησιμοποιούν μια νέα τεχνική που εστιάζει σε σημαντικές προβολές των σημείων σε χαμηλότερες διαστάσεις. Με αυτόν τον τρόπο, μπορούν να δημιουργήσουν σύνολα σημείων που είναι καλύτερα προσαρμοσμένα για συγκεκριμένες εφαρμογές.

Οι επιπτώσεις επεκτείνονται πολύ πέρα από τον ακαδημαϊκό χώρο, λέει η ομάδα. Στην υπολογιστική χρηματοοικονομική, για παράδειγμα, οι προσομοιώσεις βασίζονται σε μεγάλο βαθμό στην ποιότητα των σημείων δειγματοληψίας. «Με αυτού του είδους τις μεθόδους, τα τυχαία σημεία είναι συχνά αναποτελεσματικά, αλλά τα σημεία που δημιουργήσαμε με το GNN με χαμηλή απόκλιση οδηγούν σε μεγαλύτερη ακρίβεια», λέει ο Rusch. «Για παράδειγμα, εξετάσαμε ένα κλασικό πρόβλημα από την υπολογιστική χρηματοοικονομική σε 32 διαστάσεις, όπου τα σημεία MPMC μας νίκησαν τις προηγούμενες σύγχρονες μεθόδους οιονεί τυχαίας δειγματοληψίας κατά τέσσερις έως 24 φορές».

Ρομπότ στο Μόντε Κάρλο

Στη ρομποτική, ο σχεδιασμός διαδρομών και κινήσεων βασίζεται συχνά σε αλγορίθμους που βασίζονται στη δειγματοληψία, οι οποίοι καθοδηγούν τα ρομπότ μέσω διαδικασιών λήψης αποφάσεων σε πραγματικό χρόνο. Η βελτιωμένη ομοιομορφία της MPMC θα μπορούσε να οδηγήσει σε πιο αποτελεσματική ρομποτική πλοήγηση και προσαρμογές σε πραγματικό χρόνο για πράγματα όπως η αυτόνομη οδήγηση ή η τεχνολογία των μη επανδρωμένων αεροσκαφών. «Στην πραγματικότητα, σε ένα πρόσφατο preprint, δείξαμε ότι τα σημεία MPMC μας επιτυγχάνουν τετραπλάσια βελτίωση σε σχέση με προηγούμενες μεθόδους χαμηλής απόκλισης όταν εφαρμόζονται σε προβλήματα σχεδιασμού κίνησης ρομποτικής σε πραγματικό κόσμο», λέει ο Rusch.

«Οι παραδοσιακές ακολουθίες χαμηλής διακριτότητας ήταν μια σημαντική πρόοδος στην εποχή τους, αλλά ο κόσμος έχει γίνει πιο πολύπλοκος και τα προβλήματα που επιλύουμε τώρα συχνά υπάρχουν σε χώρους 10, 20 ή ακόμη και 100 διαστάσεων», λέει η Daniela Rus, διευθύντρια του CSAIL και καθηγήτρια ηλεκτρολόγων μηχανικών και επιστήμης υπολογιστών του MIT. «Χρειαζόμασταν κάτι πιο έξυπνο, κάτι που να προσαρμόζεται καθώς αυξάνεται η διαστατικότητα. Τα GNN είναι μια αλλαγή παραδείγματος στον τρόπο με τον οποίο δημιουργούμε σύνολα σημείων με χαμηλή απόκλιση. Σε αντίθεση με τις παραδοσιακές μεθόδους, όπου τα σημεία παράγονται ανεξάρτητα, τα GNNs επιτρέπουν στα σημεία να «συνομιλούν» μεταξύ τους, ώστε το δίκτυο να μαθαίνει να τοποθετεί τα σημεία με τρόπο που μειώνει την ομαδοποίηση και τα κενά - κοινά προβλήματα με τις τυπικές προσεγγίσεις».

Προχωρώντας προς τα εμπρός, η ομάδα σχεδιάζει να κάνει τα σημεία του MPMC ακόμη πιο προσιτά σε όλους, αντιμετωπίζοντας τον τρέχοντα περιορισμό της εκπαίδευσης ενός νέου GNN για κάθε σταθερό αριθμό σημείων και διαστάσεων.

«Μεγάλο μέρος των εφαρμοσμένων μαθηματικών χρησιμοποιεί συνεχώς μεταβαλλόμενες ποσότητες, αλλά οι υπολογισμοί συνήθως μας επιτρέπουν να χρησιμοποιούμε μόνο έναν πεπερασμένο αριθμό σημείων», λέει ο Art B. Owen, καθηγητής στατιστικής του Πανεπιστημίου του Στάνφορντ, ο οποίος δεν συμμετείχε στην έρευνα. «Ο υπεραιωνόβιος τομέας της ασυμφωνίας χρησιμοποιεί αφηρημένη άλγεβρα και θεωρία αριθμών για να ορίσει αποτελεσματικά σημεία δειγματοληψίας. Αυτή η εργασία χρησιμοποιεί νευρωνικά δίκτυα γραφημάτων για να βρει σημεία εισόδου με χαμηλή ασυμφωνία σε σύγκριση με μια συνεχή κατανομή. Αυτή η προσέγγιση έρχεται ήδη πολύ κοντά στα πιο γνωστά σύνολα σημείων χαμηλής ασυμφωνίας σε μικρά προβλήματα και υπόσχεται πολλά για ένα 32-διάστατο ολοκλήρωμα από την υπολογιστική χρηματοοικονομική. Μπορούμε να περιμένουμε ότι αυτή θα είναι η πρώτη από πολλές προσπάθειες χρήσης νευρωνικών μεθόδων για την εύρεση καλών σημείων εισόδου για αριθμητικούς υπολογισμούς».

Οι Rusch και Rus έγραψαν την εργασία μαζί με τον ερευνητή του Πανεπιστημίου του Waterloo Nathan Kirk, τον καθηγητή DeepMind AI του Πανεπιστημίου της Οξφόρδης και πρώην συνεργάτη του CSAIL Michael Bronstein και την καθηγήτρια Στατιστικής και Αναλογιστικής Επιστήμης του Πανεπιστημίου του Waterloo Christiane Lemieux. Η έρευνά τους υποστηρίχθηκε, εν μέρει, από το πρόγραμμα AI2050 της Schmidt Futures, την Boeing, το Εργαστήριο Έρευνας της Πολεμικής Αεροπορίας των Ηνωμένων Πολιτειών και τον Επιταχυντή Τεχνητής Νοημοσύνης της Πολεμικής Αεροπορίας των Ηνωμένων Πολιτειών, το Εθνικό Ίδρυμα Επιστημών της Ελβετίας, το Συμβούλιο Έρευνας Φυσικών Επιστημών και Μηχανικής του Καναδά και μια υποτροφία EPSRC Turing AI World-Leading Research Fellowship. 

Πηγή: How AI is improving simulations with smarter sampling techniques