Οι «νονοί του AI» προειδοποιούν για επερχόμενη επικίνδυνη «έκρηξη νοημοσύνης»

Δύο από τους «νονούς» της τεχνολογίας τεχνητής νοημοσύνης προειδοποιούν τις κυβερνήσεις να προετοιμαστούν για μια «έκρηξη νοημοσύνης» (intelligence explosion) την οποία χαρακτηρίζουν ως μια εξέλιξη που θα μπορούσε να είναι η σημαντικότερη στην ιστορία της τεχνολογίας.

Μια έκθεση την οποία συνυπογράφουν ο νομπελίστας Τζέφρι Χίντον και ο Καναδός επιστήμονας πληροφορικής Γιόσουα Μπέντζιο οι οποίοι θεωρούνται «νονοί» της σύγχρονης AI λόγω της πρωτοποριακής δουλειάς τους στον τομέα καλούν τους πολιτικούς να δράσουν τώρα προτού η πρόοδος στην τεχνολογία καταστεί ανεξέλεγκτη.

Οι συγγραφείς της έκθεσης δηλώνουν ότι ανησυχούν για μια «έκρηξη νοημοσύνης», την οποία περιγράφουν ως «μια δραματική επιτάχυνση της προόδου της AI που προκαλείται από την ίδια την AI συμπιέζοντας εξελίξεις που υπό άλλες συνθήκες θα απαιτούσαν χρόνια σε διάστημα μηνών ή και λιγότερο».

Η έκθεση με τίτλο «Τι θα γινόταν αν η αυτοματοποίηση της έρευνας και ανάπτυξης της AI προκαλούσε μια έκρηξη νοημοσύνης;» έχει περισσότερους από 20 συγγραφείς είναι ο Τζακ Κλάρκ συνιδρυτής της Anthropic και ο Τζακούμπ Πατσόκι επικεφαλής επιστήμονας της OpenAI.

Οι ανησυχίες τους επικεντρώνονται στο ενδεχόμενο τα συστήματα AI να αποκτήσουν την ικανότητα να βελτιώνουν τον εαυτό τους χωρίς ανθρώπινη παρέμβαση — μια διαδικασία γνωστή ως «αναδρομική αυτοβελτίωση» (recursive self-improvement). Στη μελέτη αναφέρεται ευρύτερα ως αυτοματοποιημένη έρευνα και ανάπτυξη AI.

Η πηγή

Μόλις τα συστήματα AI αποκτήσουν ικανότητες επιπέδου ειδικού στην έρευνα και ανάπτυξη AI ένας και μόνο προγραμματιστής θα μπορούσε να αξιοποιήσει ένα εργατικό δυναμικό ισοδύναμο με «εκατομμύρια» κορυφαίους ανθρώπινους ερευνητές αναφέρει η μελέτη.

Οι συγγραφείς υποστηρίζουν ότι η αυτοματοποίηση της έρευνας και ανάπτυξης AI αποτελεί την πιθανότερη πηγή μιας «έκρηξης νοημοσύνης» επειδή οι AI ήδη συμβάλλουν στη βελτίωση της ίδιας τους της τεχνολογίας και τα βελτιωμένα συστήματα μπορούν να αναπτυχθούν γρήγορα μόλις δημιουργηθούν.

«Μια έκρηξη νοημοσύνης θα μπορούσε να είναι η σημαντικότερη τεχνολογική εξέλιξη στην ανθρώπινη ιστορία, συμπιέζοντας χρόνια προόδου σε διάστημα μηνών ή και λιγότερο, απειλώντας τον ανθρώπινο έλεγχο επί των συστημάτων AI και διαβρώνοντας σοβαρά τους μηχανισμούς ελέγχου της εξουσίας μεταξύ και εντός κρατών, εταιρειών και κυβερνητικών κλάδων» αναφέρει η μελέτη.

Καλώντας τις κυβερνήσεις να αναλάβουν γρήγορα δράση, οι συγγραφείς προειδοποιούν: «Μόλις ξεκινήσει μια έκρηξη νοημοσύνης, το περιθώριο για δράση μπορεί να κλείσει».

Προτείνουν τρεις βασικές προτεραιότητες πολιτικής:

*Να απαιτούνται διαφανείς αναφορές προόδου σχετικά με την έρευνα και ανάπτυξη AI, μεταξύ άλλων με την τοποθέτηση ανεξάρτητων ελεγκτών μέσα στις εταιρείες.
*Να βρεθούν τρόποι περιορισμού της ξέφρενης ανάπτυξης της AI.
*Να υπάρξει προετοιμασία για την προσαρμογή σε μια ενδεχόμενη έκρηξη νοημοσύνης.

Τόσο η Anthropic όσο και η OpenAI έχουν συμφωνήσει να επιτρέψουν σε ανεξάρτητους αξιολογητές να εξετάζουν τα μοντέλα τους, μετά τις προειδοποιήσεις ότι η ανάπτυξη της AI έχει φτάσει σε κρίσιμο σημείο όσον αφορά την ασφάλεια.

Η Anthropic υποστηρίζει ότι η AI παράγει πλέον το 80% του κώδικά της ενώ η OpenAI χρησιμοποιεί αυτόνομους πράκτορες AI (AI agents) σε τομείς όπως η εκπαίδευση νέων μοντέλων. «Τα προκαταρκτικά στοιχεία υποδεικνύουν ότι μια έκρηξη νοημοσύνης που καθοδηγείται από λογισμικό είναι πιθανή», αναφέρει η μελέτη, προσθέτοντας ότι κάτι τέτοιο θα οδηγούσε στην «εξαιρετικά ταχεία ανάπτυξη εξαιρετικά ικανών ή υπεράνθρωπων συστημάτων AI».

Naftemporiki.gr