Η Amazon φέρεται να διεξάγει υποχρεωτική σύσκεψη για να εμβαθύνει σε μια σειρά από διακοπές λειτουργίας, ορισμένες από τις οποίες οφείλονται στη χρήση λειτουργιών κωδικοποίησης υποβοηθούμενων από την τεχνητή νοημοσύνη (AI). Το γεγονός αυτό προκάλεσε την αντίδραση του Elon Musk, ο οποίος προέτρεψε σε “προσοχή”.
Σύμφωνα με δημοσίευμα των Financial Times, η κολοσσός του ηλεκτρονικού εμπορίου πραγματοποίησε την Τρίτη εκτεταμένη ανάλυση περιστατικών, συμπεριλαμβανομένων εκείνων που σχετίζονται με τη χρήση “Gen-AI assisted changes”. Η εταιρεία επισήμανε την “τάση συμβάντων” τους τελευταίους μήνες με “υψηλό ακτίνα έκρηξης” (high blast radius).
Νωρίτερα αυτόν τον μήνα, η ιστοσελίδα και η εφαρμογή αγορών της Amazon υπέστησαν διακοπή λειτουργίας, επηρεάζοντας χιλιάδες χρήστες. Οι πελάτες αντιμετώπισαν αδυναμία ολοκλήρωσης αγορών, εμφάνισης τιμών ή πρόσβασης σε στοιχεία του λογαριασμού τους. Η Amazon είχε αποδώσει αρχικά τη διακοπή σε “ανάπτυξη κώδικα λογισμικού”.
Η είδηση της σύσκεψης προσέλκυσε την προσοχή ειδικών της τεχνολογίας, όπως ο Musk. Ο ίδιος απάντησε σε ανάρτηση του Lukasz Olejnik, συμβούλου κυβερνοασφάλειας, ο οποίος έγραψε: “Η Amazon διοργανώνει υποχρεωτική συνάντηση για την AI που χαλάει τα συστήματά της”. Η απάντηση του Musk ήταν: “Προχωρήστε με προσοχή”.
Ο Dave Treadwell, ανώτερος αντιπρόεδρος των υπηρεσιών ηλεκτρονικού εμπορίου της Amazon, φέρεται να έγραψε σε εσωτερικό email ότι η εβδομαδιαία συνάντηση “This Week in Stores Tech” (TWiST) θα χρησιμοποιηθεί εν μέρει για την εφαρμογή πρόσθετων δικλείδων ασφαλείας σχετικά με τη χρήση της AI από τους μηχανικούς. Συγκεκριμένα, θα απαιτείται η υπογραφή πιο έμπειρων μηχανικών για αλλαγές που γίνονται από νεότερους.
Εκπρόσωπος της Amazon δήλωσε στο Fortune ότι η συνάντηση TWiST είναι μια τακτική εβδομαδιαία συνάντηση λειτουργίας με στόχο την ανασκόπηση της επιχειρησιακής απόδοσης, συμπεριλαμβανομένης της διαθεσιμότητας της ιστοσελίδας και της εφαρμογής. Η εταιρεία επιβεβαίωσε ότι οι Amazon Web Services (AWS) δεν εμπλέκονται στα περιστατικά. Επίσης, διευκρίνισε ότι μόνο ένα περιστατικό που συζητήθηκε σχετίζεται με την AI, αλλά κανένα δεν αφορά κώδικα γραμμένο από AI.
Οι διακοπές λειτουργίας και η επακόλουθη σύσκεψη εγείρουν ανησυχίες μεταξύ των ειδικών κυβερνοασφάλειας σχετικά με τους κινδύνους που συνδέονται με την ταχεία ανάπτυξη εργαλείων AI. Ενώ χαρακτηριστικά όπως ο βοηθός AI της Amazon, Q, μπορούν να επιταχύνουν τη διαδικασία κωδικοποίησης, ενδέχεται να διαταράξουν τα συστήματα ελέγχου και ανάπτυξης του κώδικα, καθιστώντας τις πλατφόρμες πιο ευάλωτες σε διακοπές.
Αντίστοιχα, η Amazon έχει προχωρήσει σε περικοπές χιλιάδων θέσεων εργασίας, ενώ συνεχίζει να επενδύει σημαντικά στην AI. Ο Musk έχει δηλώσει στο παρελθόν ότι η AI θα παρακάμψει εντελώς την κωδικοποίηση έως το τέλος του 2026.
Ο Olejnik προειδοποίησε ότι η υπερβολικά γρήγορη μετάβαση από την ανθρώπινη κωδικοποίηση σε συστήματα που διαχειρίζεται η AI μπορεί να οδηγήσει σε παράβλεψη ελέγχων ασφαλείας, με αποτέλεσμα παρατεταμένες διακοπές λειτουργίας ή απώλεια δεδομένων, που θα μπορούσαν να “τινάξουν” μια επιχείρηση. Ο ίδιος συμφώνησε με τον Musk ότι η ανάπτυξη της AI απαιτεί τη δέουσα προσοχή, τονίζοντας την ανάγκη για μια ισορροπία μεταξύ της υιοθέτησης της AI και της αποφυγής αλόγιστων αναπτύξεων.
