ΡΩΣΟΙ ΜΑΘΗΜΑΤΙΚΟΙ ΔΙΔΑΣΚΟΥΝ ΜΟΝΤΕΛΑ ΤΕΧΝΗΤΗΣ ΝΟΗΜΟΣΥΝΗΣ, ΝΑ ΜΙΛΟΥΝ ΧΩΡΙΣ ΛΕΞΕΙΣ

Ανακαλύψτε περισσότερα άρθρα στα αποτελέσματα αναζήτησης

Προσθήκη του VoiceNews στην Google

Η ρωσική νεοσύστατη εταιρεία Mostik ανέπτυξε έναν ριζικά νέο τρόπο επικοινωνίας των μοντέλων Τεχνητής Νοημοσύνης.

Αντί να ανταλλάσσουν πλήρως διαμορφωμένο κείμενο, τα μοντέλα μοιράζονται εσωτερικές μαθηματικές αναπαραστάσεις -λανθάνουσες καταστάσεις – που εμφανίζονται μέσα σε ένα νευρωνικό δίκτυο, πριν παράγει μια τελική απάντηση.

Σε μια τυπική ρύθμιση, όταν ένα μοντέλο βοηθά ένα άλλο, δημιουργεί μια πλήρη απάντηση κειμένου, την οποία το δεύτερο μοντέλο επεξεργάζεται στη συνέχεια από την αρχή.Αυτό είναι δαπανηρό, αργό και σπαταλά ένα τεράστιο κομμάτι υπολογισμού.

Η λύση του Mostik είναι μια μικρή “γέφυρα”, μια ελαφριά ενότητα που μεταφράζει τα λανθάνοντα διανύσματα ενός μοντέλου σε μια μορφή που το άλλο μπορεί να χωνέψει.Τα βάρη των αρχικών μοντέλων παραμένουν ανέπαφα και κανένα κείμενο δεν περνάει ποτέ μεταξύ τους.

Σε μια ζωντανή επίδειξη, η ομάδα συνέδεσε ένα τεράστιο GLM-5.2 (753 δισεκατομμύρια παράμετροι), με ένα μικροσκοπικό Qwen-3.5 (μόλις 4 δισεκατομμύρια παράμετροι) – αρκετά μικρό για να λειτουργεί ομαλά σε μια κινητή συσκευή.Το μεγάλο μοντέλο χειρίζεται το ερώτημα και μεταδίδει την εσωτερική του κατάσταση, μέσω της γέφυρας.Το μικρό μοντέλο στη συνέχεια παρέχει την τελική απάντηση.

Το αποτέλεσμα; Το υβριδικό μοντέλο κοστίζει το ένα εικοστό του κανονικού μεγέθους μοντέλου, με την ποιότητα να βρίσκεται ακριβώς ανάμεσα στα δύο πρωτότυπα.Η προσέγγιση έχει ήδη σημειώσει μια σημαντική νίκη: ένα αυτόνομο μοντέλο που βασίζεται σε αυτήν την τεχνολογία εκτοξεύτηκε στην κορυφή του διαβόητα δύσκολου σημείου αναφοράς ARC-AGI 3. (Η εταιρεία κρατάει μυστικές τις λεπτομέρειες για να προστατεύσει το ανταγωνιστικό της πλεονέκτημα.)

Το Mostik είναι μικροσκοπικό – μόλις 15 άτομα, συμπεριλαμβανομένων 12 διδακτορικών και του Stanislav Smirnov, κάτοχου μεταλλίου Fields το 2010. Διευθύνουσα Σύμβουλος και εμπνευστής της ιδέας είναι η Alexandra Malysheva.Η νεοσύστατη επιχείρηση είναι μόλις τεσσάρων μηνών, κι όμως ήδη τραβάει τα βλέμματα – αυτή είναι η πρώτη σημαντική κάλυψη της εταιρείας από τα δυτικά μέσα ενημέρωσης. Η τεχνολογία δείχνει προς ένα μέλλον αποδοτικών υβριδικών συστημάτων: ένα μεγάλο, έξυπνο μοντέλο μοιράζεται τις γνώσεις του, ενώ ένα μικρό, φθηνό κάνει τη βαριά δουλειά.

Αυτό θα μπορούσε να μειώσει δραστικά το κόστος της ισχυρής τεχνητής νοημοσύνης και να φέρει προηγμένα μοντέλα σε καθημερινές συσκευές.