Τεχνητή νοημοσύνη: θα είναι κάποτε εφικτή;

[Always Somewhere]

Βλακώδες λάθος του Gemini, που πίστεψε το πρωταπριλιάτικο αστείο του thegallery.gr και πληροφορεί τους πάντες οτι η επερχόμενη συναυλία των Metallica ακυρώθηκε.

Σημερινό αποτέλεσμα στην αναζήτηση "metallica αθηνα"

Προβολή συνημμένου 307275

Αυτό δεν είναι τίποτα!

Εμένα με ανησυχεί ότι ενσωματώνουν την AI στα οπλικά συστήματα

Πόλεμος - Τεχνητή Νοημοσύνη: Drones, τάγματα ρομπότ και το νέο εγχειρίδιο θανάτου - ΤΟ ΒΗΜΑ

Πώς η χρήση AI αλλάζει τον τρόπο με τον οποίο διεξάγονται οι σύγχρονες ένοπλες (και όχι μόνο) συρράξεις.

www.tovima.gr

Συμφωνία Google με Πεντάγωνο για χρήση μοντέλων AI σε διαβαθμισμένες αποστολές - Τι προβλέπεται για τα οπλικά συστήματα

Πάνω από 600 εργαζόμενοί της αντιτίθενται στην παροχή τεχνητή νοημοσύνης στον αμερικανικό στρατό σε επιστολή που υπογράφουν

www.newsit.gr

Η Google φέρεται να υπέγραψε συμφωνία με το Πεντάγωνο για χρήση μοντέλων ΑΙ

Η Alphabet Inc., μητρική της Google, υπέγραψε συμφωνία με το Πεντάγωνο για τη χρήση των μοντέλων τεχνητής νοημοσύνης της σε απόρρητες εφαρμογές, σύμφωνα με το The Information.

www.kathimerini.gr

Θυμάστε το opening της ταινίας Terminator 2..

 

[Blue Max]

Εμένα με ανησυχεί ότι ενσωματώνουν την AI στα οπλικά συστήματα

Να το πάω ένα βήμα πιο μακριά...

Από τότε που διάβασα τη θεωρία του Great Filter, με απασχολεί το κατά πόσο μπορεί να εξηγεί γιατί δεν βλέπουμε άλλους νοήμονες πολιτισμούς. Στο παράδοξο του Φέρμι προτείνεται ότι υπάρχει ένα φίλτρο που λειτουργεί ως όριο ώστε κάθε πολιτισμός φτάνει σε ένα σημείο όπου αυτοπεριορίζεται ή αυτοκαταστρέφεται.

Με τη ραγδαία εξέλιξη της τεχνητής νοημοσύνης, αυτό μου φαίνεται ακόμα πιο πιθανό. Μήπως πλησιάζουμε κι εμείς ένα τέτοιο όριο; Είναι η AI εργαλείο εξέλιξης ή ένας πιθανός μηχανισμός φίλτρου;

Από τη μία, αυτό θα σήμαινε ότι σχεδόν κάθε πολιτισμός φτάνει στην AI και αποτυγχάνει να τη διαχειριστεί. Από την άλλη, η AI αυξάνει και τις πιθανότητες επιβίωσης (ιατρική, πόροι, πρόβλεψη κινδύνων κλπ). Ίσως τελικά να μην είναι απλώς απειλή, αλλά ένας πολλαπλασιαστής ισχύος προς οποιαδήποτε κατεύθυνση.

Σκέψεις για τις 4 το πρωί…

 

[telonio]

Αυτό δεν είναι τίποτα!

Εμένα με ανησυχεί ότι ενσωματώνουν την AI στα οπλικά συστήματα

Ότι συμβαίνει στην ταινία Terminator δεν έχει επαφή με την πραγματικότητα. Στην ταινία το skynet αποκτά συνείδηση, πράγμα που δεν είναι εφικτό να γίνει ποτέ σε μια συστοιχία ηλεκτρονικών κυκλωμάτων ή software. Επιπλέον, η ταινία το πάει ακόμη παραπέρα με μεταφορά χρόνου και ρομπότ κατασκευασμένα από κάποιο φανταστικό υλικό που δεν καταστρέφονται. Κοινώς η φαντασία απέχει πολύ από την πραγματικότητα.

 

[foutix]

Θα συμφωνήσω με τον blue max πως η ΤΝ στη σημερινή της εκδοχή και όπως έγινε ευρέως γνωστή από τα chat δρα ως επιταχυντής, πολλαπλασιαστής ισχύος. Αυτό περιέγραψα περιφραστικά σε προηγούμενο μήνυμα μου.

Τώρα σχετικά με το μέλλον και τους προβληματισμούς που έθεσαν οι ταινίες εξολοθρευτής. Αυτή την περίοδο αναμένουμε την ισχύ των κβαντικών υπολογιστών που θα έχουμε και εκεί άλλον έναν πολλαπλασιαστή ισχύος ενώ η ΑΙ έχει δώσει τη σταθερή χημική δομή χιλιάδων νέων υλικών ήδη από το 2023…χεχε

Δε ξέρω τι θα δούμε την επόμενη 5ετια, αλλά σίγουρα ο ρυθμός των γεγονότων θα είναι ραγδαίος σε σημείο που δεν ξερω αν θα μπορέσουμε να ακολουθήσουμε ως είδος.

Σκέφτομαι τα προηγούμενα χρόνια την εξέλιξη με τα pc. Στις αρχές της δεκαετίας του 90 όλοι μιλούσαν για την εξάπλωση τους και την αυτοματοποίηση πολλών διαδικασιών την επόμενη πενταετία, κάτι που συνέβη ίσως και σε πλάνο 10τιας. Από το 96-97 μιλούσαμε για το διαδίκτυο και την εξάπλωση του τη επόμενη δεκαετία, όπως και έγινε. Με αργούς ρυθμούς μέχρι το 2003-4 με ραγδαίους μετά την έλευση του adsl και WiFi. Παράλληλα είχαμε και την κινητή τηλεφωνία όπου και αυτή σε οριζόντa 5ετιας εδραιώθηκε για τα καλά, Έπειτα ήρθαν και τα δεδομένα και το smartphone που και αυτό χρειάστηκε χρόνο για την εδραίωση του και εύκολα προέβλεπες την εξέλιξη. Τώρα, δε μπορεί να γίνει ανάλογη πρόβλεψη

 

[telonio]

Σωστός και δεν χρειάζεται να λέμε για ακραία φανταστικά σενάρια ως πραγματικά. Η ταχύτητα άλλαξε με θεαματικούς ρυθμούς βασικά, το να γίνει πραγματικότητα το skynet είναι άλλο πράγμα. Ακόμη και αν φανταστούμε πως θα δώσουν σε κάποιο ai την πρόσβαση σε βαριά οπλικά συστήματα, πάντα θα υπάρχει επιλογή αποτροπής ενέργειας από χέρι ανθρώπου. Και ουσιαστικά αυτό πραγματευόταν η ταινία Terminator (μέσα σε άλλα παράλογα), που το skynet απέκτησε με κάποιο μαγικό τρόπο συνείδηση και απέκλεισε τον άνθρωπο από το χειρισμό του με καταστροφικά αποτελέσματα.

 

[Always Somewhere]

Τι έπαθε η ΑΙ σήμερα;

Νέο κακόβουλο λογισμικό «εφιάλτης»: Κλέβει κωδικούς pin με AI και κάνει ανέπαφες αναλήψεις μετρητών από ATM

Νέο κακόβουλο λογισμικό «εφιάλτης»: Κλέβει κωδικούς pin με AI και κάνει ανέπαφες αναλήψεις μετρητών από ATM - ΤΑ ΝΕΑ

Φαίνεται ότι το μήνυμά σας δεν είναι πλήρες. Παρακαλώ στείλτε ολόκληρη την περιγραφή του άρθρου για να τη παραφράσω.

www.tanea.gr

Nέο κακόβουλο λογισμικό «κλέβει» τους κωδικούς PIN

Οι επιτιθέμενοι τροποποίησαν την εφαρμογή μεταφοράς δεδομένων NFC, ενσωματώνοντας κακόβουλο κώδικα που φαίνεται να έχει παραχθεί με τη χρήση τεχνητής νοημοσύνης

Nέο κακόβουλο λογισμικό «κλέβει» τους κωδικούς PIN

Οι επιτιθέμενοι τροποποίησαν την εφαρμογή μεταφοράς δεδομένων NFC, ενσωματώνοντας κακόβουλο κώδικα που φαίνεται να έχει παραχθεί με τη χρήση τεχνητής νοημοσύνης.

www.kathimerini.gr

Αδιανόητο: AΙ agent διέγραψε τα δεδομένα εταιρείας σε 9 δευτερόλεπτα – Την έκλεισε για 3 μέρες

Αδιανόητο: AΙ agent διέγραψε τα δεδομένα εταιρείας σε 9 δευτερόλεπτα - Την έκλεισε για 3 μέρες - ΤΑ ΝΕΑ

Ένας AI πράκτορας διέγραψε με ένα μόνο API call όλη την παραγωγική βάση δεδομένων και τα backup μιας SaaS startup ενοικίασης αυτοκινήτων, αφήνοντας τις εταιρείες χωρίς αρχεία κρατήσεων το Σαββατοκύριακο, όπως αποκάλυψε ο ιδρυτής της.

www.tanea.gr

 

[xqtr]

Εμένα με ανησυχεί ότι ενσωματώνουν την AI στα οπλικά

Δυστυχως για εκει παει το πράγμα. Ισως οχι οπως στις ταινιες, αλλα με εξίσου ανησυχητικο τροπο. Ηδη κατασκευάζονται αεροσκαφοι-συνοδοι που απογειώνονται/προσγειώνονται και εκτελουν αποστολες παραλληλα με πιλοτους καθως και συστηματα ΑΙ, αναγνωριζουν και προτείνουν στοχους σε χειριστες οπλικών συστημάτων... σημερα. Αυριο, σιγουρα θα ειναι ακομα πιο εξελιγμενα.

Αν και για μενα, ειναι εξισου ανησυχητικο, το οτι πλεον στον πολεμο, δεν χρειαζεται να βρισκεσαι ακριβως μεσα στο πεδιο της μαχης. Μπορεις να εισαι πλεον, χιλιομετρα μακρια και με ενα drone, ειτε να επισημαινεις στοχους ή να κανεις επιθεσης "αυτοκτονιας" με drones. Αυτο, μετατρεπει τον πολεμο, σε κατι παρομοιο με ενα video game και ηδη εχει κανει τον πολεμο, ακομα πιο σκληρο και απανθρωπο.

Δεν χρειαζεται ενα Skynet για να μας εξολοθρευσει... μια χαρα την κανουμε την δουλεια και μονοι μας, ειδικα τωρα, που δεν χρειαζεται καν να εισαι στο μετωπο.

 

[xqtr]

Σκέφτομαι τα προηγούμενα χρόνια την εξέλιξη με τα pc. Στις αρχές της δεκαετίας του 90 όλοι μιλούσαν για την εξάπλωση τους και την αυτοματοποίηση πολλών διαδικασιών την επόμενη πενταετία, κάτι που συνέβη ίσως και σε πλάνο 10τιας. Από το 96-97 μιλούσαμε για το διαδίκτυο και την εξάπλωση του τη επόμενη δεκαετία, όπως και έγινε. Με αργούς ρυθμούς μέχρι το 2003-4 με ραγδαίους μετά την έλευση του adsl και WiFi. Παράλληλα είχαμε και την κινητή τηλεφωνία όπου και αυτή σε οριζόντa 5ετιας εδραιώθηκε για τα καλά, Έπειτα ήρθαν και τα δεδομένα και το smartphone που και αυτό χρειάστηκε χρόνο για την εδραίωση του και εύκολα προέβλεπες την εξέλιξη. Τώρα, δε μπορεί να γίνει ανάλογη πρόβλεψη

Μπορει να γινει η εξης προβλεψη... οπως σημερα, που ενω ο καθε ενας απο εμας εχει εναν υπολογιστη στα χερια του, στην ουσια η συντριπτικη πλειοψηφια, ειναι τεχνολογικα αμορφωτοι/αναλφαβητοι!!! Αποδυκνειεται με το οτι εχουν αυξηθει κατακορυφα οι κλεψιες μεσο internet. Ακομα και νεα παιδια, που εχουν κινητα απο την κουνια τους... δεν εχουν καν πχ αντιικο στο smartphone τους. Αν τους χαλασει εστω και η sd card σε κοιτανε αποσβολομενα κα.

Η κοινωνια, δεν μπορει να ακολουθησει την τεχνολογικη εξελιξη και δυστυχως αυτη, χρησιμοποιειτε με ενα τροπο, σκλαβοποιησεις και οχι απελευθερωσης του ανθρωπου. Απο την Α' Βιομ. Επανασταση, ελεγαν οτι οι μηχανες θα μας δωσουν τον χρονο/ανεση, να ζουμε ανετα και εν ετη 2026, τρεχουμε και δεν φτανουμε. Αφηστε δε, το ηλεκτρονικο φακελωμα απο παντου, με τελευταιο την επαληθευση ηλικιας, που προωθειτε.

Μεγαλο θεμα η εξελιξη της τεχνολογιας σε σχεση με την εξελιξη? του ανθρωπου.

 

[Always Somewhere]

Να το πάω ένα βήμα πιο μακριά...

Από τότε που διάβασα τη θεωρία του Great Filter, με απασχολεί το κατά πόσο μπορεί να εξηγεί γιατί δεν βλέπουμε άλλους νοήμονες πολιτισμούς. Στο παράδοξο του Φέρμι προτείνεται ότι υπάρχει ένα φίλτρο που λειτουργεί ως όριο ώστε κάθε πολιτισμός φτάνει σε ένα σημείο όπου αυτοπεριορίζεται ή αυτοκαταστρέφεται.

Με τη ραγδαία εξέλιξη της τεχνητής νοημοσύνης, αυτό μου φαίνεται ακόμα πιο πιθανό. Μήπως πλησιάζουμε κι εμείς ένα τέτοιο όριο; Είναι η AI εργαλείο εξέλιξης ή ένας πιθανός μηχανισμός φίλτρου;

Από τη μία, αυτό θα σήμαινε ότι σχεδόν κάθε πολιτισμός φτάνει στην AI και αποτυγχάνει να τη διαχειριστεί. Από την άλλη, η AI αυξάνει και τις πιθανότητες επιβίωσης (ιατρική, πόροι, πρόβλεψη κινδύνων κλπ). Ίσως τελικά να μην είναι απλώς απειλή, αλλά ένας πολλαπλασιαστής ισχύος προς οποιαδήποτε κατεύθυνση.

Σκέψεις για τις 4 το πρωί…

Είσαι φοβερός! Με βάζεις σε πολύ interstellar σκέψεις.

Για να καταλάβουν και όσοι μας διαβάζουν για τι πράγμα μιλάμε...

0: παράδοξο του Φερμι

0: Το μεγάλο Φίλτρο

Το Μεγάλο Φίλτρο (Great Filter) είναι μια θεωρητική λύση στο παράδοξο του Fermi, υποδηλώνοντας ότι υπάρχει ένα εξαιρετικά δύσκολο εξελικτικό στάδιο ή καταστροφικό γεγονός που εμποδίζει τη ζωή να γίνει διαγαλαξιακός πολιτισμός. Αυτό εξηγεί γιατί δεν έχουμε βρει εξωγήινους, είτε επειδή το φίλτρο είναι πίσω μας (η ζωή είναι σπάνια) είτε μπροστά μας (η αυτοκαταστροφή είναι πιθανή). [1, 2, 3]

Βασικά Σημεία της Θεωρίας:

• Προέλευση: Προτάθηκε από τον Robin Hanson και αφορά το γιατί δεν βλέπουμε ανώτερους πολιτισμούς.
• Το Φίλτρο στο Παρελθόν: Αν το φίλτρο είναι πίσω μας, τότε η εμφάνιση της νοήμονος ζωής ή η τεχνολογική ανάπτυξη είναι εξαιρετικά απίθανη, κάνοντάς μας ίσως μοναδικούς.
• Το Φίλτρο στο Μέλλον: Αν το φίλτρο είναι μπροστά μας, τότε οι περισσότεροι πολιτισμοί αυτοκαταστρέφονται (π.χ. πυρηνικός πόλεμος, κλιματική αλλαγή, Τεχνητή Νοημοσύνη) πριν καταφέρουν να αποικίσουν το διάστημα.
• Σύνδεση με NASA: Η NASA εξετάζει αυτή τη θεωρία για να εξηγήσει την απουσία ανιχνεύσιμων εξωγήινων πολιτισμών. [1, 2, 3, 4, 5]

@Blue Max Και για να σε βάλω πάλι σε σκέψεις υπάρχει και η θεωρία του "Σκοτεινού Δάσους"

Επίσης περιμένω με ανυπομονησία και την ταινία του Spielberg Disclosure Day. (Δείτε το trailer στο link)

Αν δεν μπορούμε να ταξιδέψουμε στο σύμπαν τότε υποπτεύομαι ότι στο μέλλον η επικοινωνία / επαφή μας με εξωγήινους πολιτισμούς (αν υπάρχουν τελικά) θα γίνετε αρχικά με τους κβαντικούς υπολογιστές και την ΑΙ να παίζει τεράστιο ρόλο σε αυτό το επίτευγμα.

 

[xqtr]

Αν δεν μπορούμε να ταξιδέψουμε στο σύμπαν τότε υποπτεύομαι ότι στο μέλλον η επικοινωνία / επαφή μας με εξωγήινους πολιτισμούς (αν υπάρχουν τελικά) θα γίνετε αρχικά με τους κβαντικούς υπολογιστές και την ΑΙ να παίζει τεράστιο ρόλο σε αυτό το επίτευγμα.

Αν ποτε επικοινωνησουμε με εξωγηινο πολιτισμο, ελπιζω να γινει, αφου...:

• Εχουμε σταματησει να σκοτωνομαστε μεταξυ μας
• Εχουμε μεταβει σε μια αχρηματη κοινωνια και εχει σταματησει η εκμεταλευση των φτωχων... εννοειται να εχει εξαφανιστει εντελως η φτωχεια και αλλα παγκοσμια προβληματα του ανθρωπινου γενους
• Εχουμε μεταβει/αποδεχτει/σεβαστει τις θρησκειες των αλλων και δεν υπαρχουν καθολου θρησκευτικος ρατσισμος ή και οποιασδηποτε αλλη μορφης ρατσισμου
• Ειμαστε ανεξαρτητοι απο την χρηση ορυκτων καυσιμων ή αλλου ειδους επιβλαβη μορφη ενεργειας (πχ πυρηνικη)
• Εχουμε αποδεχτει τις ΑΙ και εχουμε ξεπερασει τον φοβο μας, απεναντι σε αυτες ή αλλης μορφης νοημοσυνης πχ εξωγηινοι.
• κα.

Δεν γινεται να καλεις κοσμο στο σπιτι σου και το ιδιο σου το σπιτι, να ειναι ενας αχταρμας. Καπως ετσι ειναι η Γη, αυτη τη στιγμη. Δεν ειμαστε ετοιμοι, ουτε στο ελαχιστο να ερθουμε σε επαφη, με αλλο πολιτισμο, ισως ουτε ετοιμοι να διαχειριστουμε μια ΑΙ (πραγματικη, οχι LLM).

 

[telonio]

Πάμε ρεαλιστικά. Νοήμων εξωγήινη ζωή δεν έχει ανιχνευθεί όσο μακριά μπορούν να φτάσουν τα συστήματα του ανθρώπου. Από εκεί και πέρα, αν υποθέσουμε πως υπάρχουν εξωγήινοι, οι οποίοι έχουν τεχνολογία να μας επισκεφθούν, τότε θα χρειάζονται εκατομμύρια έτη φωτός για να μας φτάσουν γιατί θα έρχονταν από άλλο γαλαξία. Οι πλανήτες Άρης και Πωσειδώνας έχουν ωκεανούς και συνεπώς έχουν πιθανότητα να έχουν εξωγηίνα πλάσματα. Όχι βέβαια όπως φαίνονται στις ταινίες Alien.

 

[Blue Max]

Υπάρχει και η Rare Earth Hypothesis. Η βασική της ιδέα είναι ότι, ενώ η απλή ζωή ίσως δεν είναι τόσο σπάνια, η πολύπλοκη και νοήμων ζωή απαιτεί έναν συνδυασμό εξαιρετικά ειδικών συνθηκών: σωστό τύπο άστρου, σταθερή τροχιά, παρουσία μεγάλου φεγγαριού (όπως της Γης), προστασία από γίγαντες τύπου Δία, μαγνητικό πεδίο, τεκτονικές πλάκες κλπ κλπ.

Και εφόσον δεν έχουμε ακόμη αποδείξεις για άλλη νοήμονα ζωή, το σενάριο παραμένει ανοιχτό και λογικά πιθανό. Βέβαια, το δεν έχουμε βρει κάτι δεν σημαίνει απαραίτητα δεν υπάρχει.

Για να το συνδέσω με το Great Filter και το Fermi παράδοξο, έχουμε δύο λογικές θέσεις που συνυπάρχουν: είτε η ζωή (ιδίως η νοήμων) είναι σπάνια στον γαλαξία μας, είτε είναι εκεί έξω, αλλά δεν την έχουμε δει ακόμα.

Κάπου εκεί μέσα παίζει και η δική μου άποψη.