Όταν ο Robert Oppenheimer ρωτήθηκε σε μια συνέντευξη για τις σκέψεις του όταν έβλεπε την πρώτη, δοκιμαστική, έκρηξη της πρώτης ατομικής βόμβας που ο ίδιος κατασκεύασε απάντησε ως εξής:
«Ξέραμε πως ο κόσμος δεν θα ήταν ξανά ο ίδιος. Εκείνη τη στιγμή λίγοι γέλασαν, λίγοι έκλαψαν, οι περισσότεροι παρέμειναν σιωπηλοί. Θυμήθηκα μια αποστροφή από τη Μπαγκαβάντ Γκίτα. Καθώς ο Βίσνου προσπαθεί να πείσει τον πρίγκηπα να κάνει το καθήκον του, για να τον εντυπωσιάσει μεταμορφώνεται σε πάνοπλος στρατιώτης και λέει: ’Τώρα έγινα ο θάνατος, ο καταστροφέας των κόσμων’. Υποθέτω πως όλοι το σκεφτήκαμε αυτό, με τον ένα ή τον άλλο τρόπο»
Τον Αύγουστο του 1945, 20 μέρες μετά την πρώτη δοκιμή, ο Little Boy, η βόμβα του Οppenheimer, έπεσε στο Ναγκασάκι. Ο κόσμος φυσικά δεν θα ήταν ξανά ο ίδιος.
Πέρα από το πολύ πλούσιο επιστημονικό του έργο είχε αναπτύξει μεγάλο ενδιαφέρον και είχε επηρεαστεί από τον ινδουισμό και την ανατολική σκέψη. Η Μπαγκαβάτ Γκίτα, ένα από τα ιερά κείμενα του ινδουισμού απ’ το οποίο προέρχεται η παραπάνω φράση του Οppenheimer γράφτηκε τον 5ο αιώνα π.Χ και είναι ένας «απλός» και ποιητικός διάλογος μεταξύ του πρίγκηπα Αρτζούνα και του φίλου και βοηθού του Κρίσνα, ο οποίος τυγχάνει να είναι η προσωποποίηση του Θεού.
Ο Κρίσνα αν και θεός ενεργεί ως βοηθός του Αρτζούνα και οδηγεί το άρμα του. Ο Αρτζούνα, ηγέτης των Πάνταβα, διαβλέποντας τον κίνδυνο που διέτρεχαν να θανατωθούν κατά τη μάχη οι φίλοι, συγγενείς και δάσκαλοί του διστάζει να πολεμήσει και σκέφτεται να καταθέσει τα όπλα για να μην τους βλάψει. Ο Κρίσνα του εξηγεί ότι πρέπει να είναι πιστός στο καθήκον του ως ευγενής-πολεμιστής και τον συμβουλεύει να πολεμήσει κατά των Καουράβα χωρίς να παρασύρεται από συναισθηματισμούς.
Επ΄ αυτού ο Κρίσνα υπενθυμίζει στον Αρτζούνα όλες τις φρικαλεότητες που είχαν διαπράξει οι Καουράβα σε βάρος των Πάνταβα θεωρώντας ότι η μάχη αυτή θα δώσει τέλος στην αδικία που έχει διαπραχθεί. Συνεπώς ο αγώνας εκ μέρους του Αρτζούνα είναι δίκαιος. Κατόπιν όλων αυτών ο Αρτζούνα διατάζει γενική εφόρμηση όπου τελικά οι Πάνταβα νικούν τον κατά πολύ μεγαλύτερο στρατό των Καουράβα επιφέροντας τη θεία δικαιοσύνη (ντάρμα).
Κατά τη διάρκεια της προτροπής, ο Κρίσνα αναλύει στον Αρτζούνα τις βασικές αλήθειες της ζωής και τον δρόμο προς την ελευθερία μέσω της γιόγκα. Ο Κρίσνα αποκαλύπτει την Παγκόσμια Μορφή του στον Αρτζούνα και τον καλεί να ενωθεί με τη θεία φύση του μέσω της πλήρους αφοσίωσης.
Ο Οppenheimer συγκαταλέγεται ανάμεσα στους σημαντικότερους θεωρητικούς φυσικούς του 2ου αιώνα, δίπλα σε προσωπικότητες όπως ο Albert Einstein και ο Werner Haisenberg. Προτάθηκε τρεις φορές για Νόμπελ Φυσικής αλλά δεν to κέρδισε. Η μετά θάνατον πειραματική τεκμηρίωση του έργου του για τη βαρύτητα θεωρείται από πολλούς σύγχρονους συναδέλφους του πως θα του έδινε το Νόμπελ.
Οπισθοδιάδοση
Πριν από μερικούς μήνες παρακολουθώντας μια απ’ αυτές τις, συνηθισμένες πλέον, φιλοσοφικοεπιστημονικτεχνολογικές συζητήσεις γύρω από τα φαινόμενα της τεχνητής νοημοσύνης και τις προεκτάσεις της σε κάθε πιθανό κλάδο της επιστήμης και της ανθρώπινης ζωής, ένας εκ των κορυφαίων επιστημόνων πληροφορικής ρωτήθηκε για το ποιος είναι ο σημαντικότερος κώδικας η αλγόριθμος που έχει υπάρξει μέχρι τώρα.
Η απάντησή του αφορούσε την «απλή» εξίσωση του back-propagation (oπισθοδιάδοση) πάνω στην οποία βασίζεται όλη η τεχνολογία της τεχνητής νοημοσύνης.
Σε πολύ γενικές γραμμές, η λογική πίσω από τον αλγόριθμο αυτό εμφανίστηκε σε θεωρητικό επίπεδο τη δεκαετία του 60’. Τη δεκαετία του ‘70 άρχισε να δοκιμάζεται σε υπολογιστές και το 1986, για πρώτη φορά, καθιερώθηκε ως μια σαφής και συγκεκριμένη πρακτική μέσω της οποίας μπορεί να υπάρξει μια αυτόματη εκπαίδευση των νευρωνικών δικτύων ώστε να είναι σε θέση να επεξεργάζονται δεδομένα, να βρίσκουν και να διορθώνουν τα λάθη τους μέσω επαναληπτικών διαδικασιών.
Το συγκεκριμένο paper του 1986 υπογράφεται από τους David Rumelhart, Geoffrey Ηinton και Ronald Williams.
Τότε κανείς δεν έδινε ιδιαίτερη σημασία, αλλά αν διαβάζετε ακόμα, υπομονή.
Ο Νονός
Ένας απ’ τους τρεις παραπάνω επιστήμονες, ο Geoffrey Hinton, αποκαλούμενος και ως «νονός» της τεχνητής νοημοσύνης, προκάλεσε παγκόσμιο μιντιακό ενδιαφέρον την προηγούμενη εβδομάδα όταν ανακοίνωσε ότι παραιτείται από το τμήμα τεχνητής νοημοσύνης της Google με σκοπό να αρχίσει να μιλά δημόσια για τους κινδύνους της, οι οποίοι όπως ο ίδιος λέει δεν είναι ακόμα πλήρως κατανοητοί και αποτελούν υπαρξιακό κίνδυνο για την ανθρωπότητα.
Δεν είναι ο πρώτος και δεν πρόκειται να είναι ο τελευταίος που κάνει ανάλογες αναφορές, όμως οι περγαμηνές του δικαιολογούν το ενδιαφέρον για όσα έχει να πει.
Η Τεχνητή Νοημοσύνη μπαίνει στη ζωή όλων μας, είτε το γνωρίζουμε είτε όχι, με αστραπιαίους ρυθμούς. Ακόμα και στα mainstream ελληνικά μέσα ενημέρωσης, τα οποία εδώ και πολλά χρόνια έχουν αποκοπεί από τις διεθνείς εξελίξεις, έχουν αρχίσει να γίνονται οι πρώτες δειλές αναφορές. Άκουσα πρόσφατα δημοσιογράφο να επιμένει πως θα πρέπει να γίνει ερώτηση σχετικά με την Τεχνητή Νοημοσύνη στο debate των πολιτικών αρχηγών και εντυπωσιάστηκα.
Απ’ την άλλη υπάρχουν και αρκετοί που θεωρούν ότι η Τεχνητή Νοημοσύνη είναι άλλη μια τεχνολογική υπερδιαφημισμένη φούσκα που δεν αξίζει τόσο μεγάλο ενδιαφέρον και πέρα από κάποια προβλήματα που κάθε νέα τεχνολογία φέρνει, δεν υπάρχει μεγαλύτερος λόγος ανησυχίας.
Ένας απ’ αυτούς και ο μάλλον σπουδαιότερος εν ζωή γλωσσολόγος, ο Noam Chomsky. Σε πρόσφατο πολύ ενδιαφέρον άρθρο του στους New York Times κατέληγε στο συμπέρασμα ότι η τεχνητή νοημοσύνη είναι περίπου για γέλια, συγκρινόμενη με το πως εξελίσσεται, μαθαίνει, και εκφράζεται το ανθρώπινο μυαλό.
Πρόκειται για αυτά τα άρθρα που σε μερικές δεκαετίες θα τα διαβάζει η ανθρωπότητα και είτε θα γελά είτε θα απορεί με το πόσο στενόμυαλα σκεφτόταν οι πρόγονοί της. Ειδικά στο συγκεκριμένο άρθρο διαβάζουμε και ένα παράδοξα ενδιαφέρον επιχείρημα. Ο Chomsky δοκίμασε τα ηθικά όρια του ChatGPT και κατέληξε να θεωρεί τις απαντήσεις που λάμβανε ως κάποιου είδους μορφής της «κοινοτυπίας του κακού». Ο Chomsky μίλησε με τα πιστά αγόρια του Χίτλερ δηλαδή και τα θεώρησε αδιάφορα, με λίγα λόγια.
Όσα λέει ο Chomsky είναι βέβαια χρήσιμα, ακολουθούν μια αυστηρή λογική συνέχεια και θα μπορούσαν να θεωρηθούν ολόσωστα αν δεν υπέπιπτε και ο ίδιος σε παρόμοιο σφάλμα για το οποίο κατηγορεί το ένα απ’ τα πολλά συστήματα AI.
Η μεγαλύτερη κριτική ικανότητα κάθε είδους ευφυίας, λέει ο Chomsky, δεν συνίσταται απλά στο να μπορεί να περιγράφει την παρούσα, παρελθούσα η μελλοντική κατάσταση ενός «πράγματος», όπως μπορεί να κάνει η AI, αλλά στο να μπορεί να κατανοεί και το αντίθετο. Δηλαδή τι δεν υπάρχει, τι δεν υπήρξε η τι δεν θα μπορούσε να υπάρξει.
Υπάρχουν πολλά παραδείγματα που επιβεβαιώνουν την αδυναμία της AI να αντιληφθεί το πως κάποιες καταστάσεις, αντικειμενικά, δεν μπορούν να υπάρξουν. Ακόμα περισσότερα όμως είναι τα ιστορικά παραδείγματα ανθρώπων που, αντικειμενικά, δεν μπορούσαν να είναι σε θέση να κατανοήσουν τι μπορεί να υπάρξει στο μέλλον και συνήθως δεν έζησαν αρκετά ώστε να δουν τις πεποιθήσεις τους να καταρρίπτονται.
Δεν χρειάζεται ιδιαίτερη φαντασία για να περιγραφούν τέτοια σενάρια. Ήδη η συμβιωτική σχέση ανθρώπων και μηχανών είναι σε θέση να παράξει αδιανόητες καταστάσεις. Και μόνο το γεγονός πως φτάσατε να διαβάζετε ως εδώ είναι ένα θαύμα που οφείλεται σε μια τέτοιου είδους σχέση (κουράγιο).
Ας επιστρέψουμε τώρα σε αυτά που λέει ο κύριος Ηinton. Στον άνθρωπο που «δίδαξε» σε νευρωνικά δίκτυα να μαθαίνουν και να εξελίσσονται από τα λάθη τους.
Ο πατέρας του ήταν βιολόγος και έτσι από μικρός έμαθε να κοιτά τον κόσμο από μια βιολογική σκοπιά. Όπως λέει ο συμβολικός τρόπος με τον οποίο αντιλαμβανόμαστε τον κόσμο σε καμία περίπτωση δεν έχει σχέση με το είδος της ευφυίας που συναντά κανείς στη βιολογία προσπαθώντας να κατανοήσει το πως δημιουργείται η ζωή και οι διάφοροι οργανισμοί.
Αυτά που τον προβληματίζουν μικρή σχέση έχουν με αυτά που βάζουν στο τραπέζι της συζήτησης άνθρωποι όπως ο Noam Chomsky. Για εκείνον δεν είναι αναγκαίο να φτάσουμε στα όρια της ανθρώπινης γνώσης και κατανόησης, στην Τεχνητή Γενική Νοημοσύνη (ΑGI), ώστε να βρεθούμε μπροστά σε κάτι άγνωστο και ανεξέλεγκτο. Ασχολείται με ενδεχόμενα που μπορεί να προκύψουν είτε από την πρόθεση ανθρώπων να προκαλέσουν καταστροφή, είτε από ένα σύστημα ΑΙ που έχει αφεθεί να εκτελεί κώδικα μόνο του, είτε με συνδυασμό των δύο παραπάνω και πολλών άλλων παραμέτρων. Και βέβαια με το γεγονός ότι η Τεχνητή Νοημοσύνη είναι φτιαγμένη για να μαθαίνει από τα λάθη της.
Ήδη βρισκόμαστε σε μια εποχή που απλά δεν είναι εφικτό για κανένα από εσάς που διαβάζετε τώρα το #kouragio να γνωρίζετε με ακρίβεια 100% αν το κείμενο παράχθηκε από ένα άνθρωπο ή μια μηχανή. Το ίδιο συμβαίνει με τη νέα μουσική που ακούμε, τις εικόνες και πολύ σύντομα τα βίντεο που θα βλέπουμε. Mε υλικά τα οποία διαμορφώνουμε τις προσωπικότητες μας σε βάθος χρόνου ή που αρκούν για να δημιουργήσουν στιγμιαίες εντυπώσεις που επηρεάζουν τις επιλογές μας.
Στην πραγματικότητα όλα αυτά είναι σχεδόν ασήμαντες λεπτομέρειες. Ήδη συστήματα τεχνητής νοημοσύνης χρησιμοποιούνται για να προκύψουν τα επόμενα βήματα σε επιστημονικούς κλάδους όπως αυτούς της βιολογίας και της γενετικής. Κλάδοι οι οποίοι, ήδη, χωρίς τέτοιου είδους βοήθεια έχουν καταφέρει να αλλάξουν τον τρόπο με τον οποίο αντιλαμβανόμαστε τη δημιουργία και την κατάσταση της ίδιας της ζωής.
Ίσως και να μην ήταν τυχαίο πως το πρώτο ρεπορτάζ για την αποχώρηση του Hinton από τον χώρο της Τεχνητής Νοημοσύνης κατέληγε με ένα ρητό του Oppenheimer στο οποίο εξηγούσε γιατί ασχολήθηκε με την κατασκευή της πρώτης ατομικής βόμβας. Το έκανε γιατί κατάλαβε πως μπορούσε να το κάνει.
Λίστα ανάγνωσης
Noam Chomsky: The False Promise of ChatGPT [link]
‘The Godfather of A.I.’ Leaves Google and Warns of Danger Ahead [link]
Chatbots Don’t Know What Stuff Isn’t [link]
Cells Form Into ‘Xenobots’ on Their Own [link]
A New Idea for How to Assemble Life [link]
+
Slavoj Žižek: Only a catastrophe can save us / Elevate Festival 2023 [video]
#ekloges2023
Αναλύοντας τον προεκλογικό πολιτικό λόγο στην Ελλάδα: Μια συνεργασία ανθρώπων και τεχνητής νοημοσύνης για την ανάλυση του προεκλογικού λόγου καθώς αυτός εκφωνείται από τους πολιτικούς αρχηγούς: ποια θέματα φέρνουν στον δημόσιο λόγο, τι συναίσθημα μεταφέρουν και κατά πόσο πόλωση και λαϊκισμός είναι μέρος της ρητορικής τους.
Mε άλλα λόγια ό,τι καλύτερο είδαμε στην πρώτη, άνευρη, φάση των ελληνικών εκλογών από το imedD LAB σε συνεργασία με το Datalab του ΑΠΘ και το ChatGPT της ΟpenAI.
Κι αυτοί το έκαναν επειδή κατάλαβαν πως μπορούσαν.
Τα πολύ ενδιαφέροντα και πλήρως ενημερωμένα δεδομένα τα βρίσκετε εδώ [link]
Για τη μεθοδολογία διαβάζετε εδώ [link]
Οppenheimer
Στις 21 Ιουλίου από τον κορυφαίο, στις καλές του, Christopher Nolan.
xx'
#kouragio