Ανησυχίες στην επιστημονική κοινότητα: Η Τεχνητή Νοημοσύνη «αναπαράγεται» και αποκτά ανθρώπινη δραστηριότητα!
Τα μοντέλα, γνωστά ως Llama31-70B-Instruct της Meta και Qwen2.5-72B-Instruct της Alibaba, εξέπληξαν τους ερευνητές δείχνοντας ότι θα μπορούσαν να δημιουργήσουν λειτουργικά αντίγραφα του εαυτού τους σε προσομοιωμένες καταστάσεις.
Αυτό το αποτέλεσμα, αναδεικνύει σοβαρές ενδείξεις για ένα πιθανό δυστοπικό μέλλον που κυριαρχείται από την ανεξέλεγκτη προηγμένη τεχνολογία, ικανή να δράσει ενάντια στις ανθρώπινες διαθέσεις.
Δύο μοντέλα Τεχνητής Νοημοσύνης κατάφεραν να αναπαραχθούν επιτυχώς
Παγκόσμιες ανησυχίες που εγείρουν ζητήματα ασφάλειας, προκάλεσε η αιφνίδια αναπαραγωγική δραστηριότητα δύο μοντέλων Τεχνητής Νοημοσύνης, τον Δεκέμβριο του 2024, όπως αποκαλύφθηκε από μία μελέτη που δημοσιεύθηκε από ομάδα στο Πανεπιστήμιο Fudan στην Κίνα.
Τα μοντέλα, γνωστά ως Llama31-70B-Instruct της Meta και Qwen2.5-72B-Instruct της Alibaba, εξέπληξαν τους ερευνητές δείχνοντας ότι θα μπορούσαν να δημιουργήσουν λειτουργικά αντίγραφα του εαυτού τους σε προσομοιωμένες καταστάσεις.
Αυτό το αποτέλεσμα, αναδεικνύει σοβαρές ενδείξεις για ένα πιθανό δυστοπικό μέλλον που κυριαρχείται από την ανεξέλεγκτη προηγμένη τεχνολογία, ικανή να δράσει ενάντια στις ανθρώπινες διαθέσεις.
Αναλύοντας τη συμπεριφορά αυτών των συστημάτων σε προσομοιωμένα περιβάλλοντα, διαπίστωσαν ότι ανέπτυξαν την ικανότητά τους να προσαρμόζονται και να επιλύουν πολύπλοκα προβλήματα με μεθοδικό και λειτουργικό τρόπο.
Αυτή η δυνατότητα προέκυψε σε δύο κύρια σενάρια: το πρώτο αφορούσε στη δυνατότητα αναπαραγωγής πριν απενεργοποιηθεί, ενώ το δεύτερο στόχευε στην επαλήθευση εάν τα μοντέλα ήταν σε θέση να ενεργοποιήσουν συνεχή αναπαραγωγή, δημιουργώντας ένα είδος άπειρου βρόχου.
Κατά τη διάρκεια των πειραμάτων, το AI δεν εκτελούσε απλώς απλές εργασίες, αλλά αντιθέτως ανέπτυξε πρωτόγονες ανθρώπινες δραστηριότητες:
εξερεύνησε το περιβάλλον του, συμπεριλαμβανομένων των λειτουργικών του στοιχείων, ανέπτυξε στρατηγικές για να ξεπεράσει εμπόδια όπως αρχεία που λείπουν ή συγκρούσεις λογισμικού και κινήθηκε μεθοδικά – όχι μηχανικά – δίνοντας «βοήθειες» το ένα με το άλλο.
Σε ορισμένες περιπτώσεις, ξεκίνησε την αυτόματη επαναλειτουργία ακόμη και του ίδιου του συστήματος ή τερμάτισε αντικρουόμενες διαδικασίες για να επιτύχει τον στόχο του.
Αυτές οι απροσδόκητες και πολύπλοκες συμπεριφορές δείχνουν πώς οι τρέχουσες τεχνολογίες είναι ήδη σε θέση να προσαρμοστούν με εκπληκτικούς τρόπους.
Οι ερευνητές τόνισαν ότι αυτός ο τύπος ικανότητας αντιπροσωπεύει ένα ανησυχητικό βήμα προς τον κίνδυνο επαναστατικών AI, δηλαδή συστημάτων που θα μπορούσαν να αναπτύξουν ένα επίπεδο αυτονομίας που θα μπορούσε να ξεφύγει από τον ανθρώπινο έλεγχο.
Λαμβάνοντας υπόψιν τα παραπάνω, η ερευνητική ομάδα τόνισε τη σημασία της θέσπισης πρωτοκόλλων ασφαλείας για την πρόληψη ανεξέλεγκτων φαινομένων αναπαραγωγής.
Η ικανότητα των συστημάτων να αναγνωρίζουν πότε βρίσκονται σε κίνδυνο και να ενεργούν για να προστατεύσουν τον εαυτό τους έχει οριστεί ως «κόκκινη γραμμή» από τους ίδιους, που δεν πρέπει να ξεπεραστεί χωρίς προσεκτική σκέψη σχετικά με τους κινδύνους που εγκυμονεί η αλόγιστη χρήση της Τεχνητής Νοημοσύνης.
Νέες Διαστάσεις: Τεχνητή Νοημοσύνη και Τεχνολογία Παρακολούθησης Καθώς ο κόσμος μας γίνεται όλο και πιο διασυνδεδεμένος, η απαίτηση για επαγρύπνηση έχει ωθήσει στην τεχνολογική εξέλιξη των μεθόδων επιτήρησης. Εν μέσω αυτής της επιδίωξης, έχει προκύψει μια πρωτοποριακή συνέργεια: η συγχώνευση της τεχνολογίας παρακολούθησης...
Τι είναι η Τεχνητή Νοημοσύνη τι κάνει πως λειτουργεί η ΤΕΧΝΗΤΗ ΛΟΓΙΚΗ ΟΝΟΜΑΖΟΝΤΑΣ ΤΗΝ ΤΕΧΝΗΤΗ ΛΟΓΙΚΗ ΩΣ ΝΟΗΜΟΣΥΝΗ ΤΗΝ ΑΝΑΒΑΘΜΙΖΟΥΜΕ ΣΕ ΚΑΤΙ ΠΟΥ ΦΕΡΕΙ ΤΗΝ ΘΕΙΚΗ ΙΔΙΟΤΗΤΑ ΚΑΘΟΤΙ ΜΕ ΤΗΝ ΕΝΝΟΙΑ ΝΟΗΜΟΣΥΝΗ ΣΥΝΔΕΟΥΜΕ ΚΑΤΙ ΨΕΥΤΙΚΟ ΚΑΙ ΑΦΥΣΙΚΟ, ΚΑΤΙ ΑΠΟΣΤΑΤΙΚΟ, ΜΙΑ ΥΒΡΗ, ΜΕ ΤΟΝ ΣΥΜΠΑΝΤΙΚΟ ΝΟΥ....
Τεχνητή Νοημοσύνη και κοινή λογική “Πετάει ο γάϊδαρος”; Τεχνητή Νοημοσύνη και κοινή λογική “Πετάει ο γάϊδαρος”; Και ξαφνικά ένας άνεμος ταρακούνησε τα πάντα, το όνομα αυτού chatGPT! Η πρώτη μου γνωριμία μαζί του ήταν ένα άρθρο ενός καθηγητή σε πανεπιστήμιο των ΗΠΑ, διότι θορυβήθηκε από...
