Εάν παρακολουθείτε τις τεχνολογικές ειδήσεις, πιθανότατα θα συναντήσετε την έννοια των νευρωνικών δικτύων (επίσης γνωστά ως νευρωνικά δίκτυα).
Το 2016, για παράδειγμα, το νευρικό δίκτυο AlphaGo της Google κτύπησε έναν από τους καλύτερους επαγγελματίες παίκτες της Go στον κόσμο σε μια σειρά 4-1. Το YouTube θα χρησιμοποιήσει νευρωνικά δίκτυα για να καταλάβει καλύτερα τα βίντεο Το YouTube θα χρησιμοποιήσει τα νευρικά δίκτυα για να καταλάβει πραγματικά τα βίντεο Το YouTube θα χρησιμοποιήσει τα νευρωνικά δίκτυα για να καταλάβει πραγματικά τα βίντεο Η αναζήτηση στο YouTube μπορεί να είναι απογοητευτική γιατί το YouTube δεν βλέπει τα βίντεο με αυτόν τον τρόπο ένα άτομο κάνει. Πρόσφατα, η Google αρχειοθετεί ένα δίπλωμα ευρεσιτεχνίας που μπορεί να το αλλάξει Διαβάστε περισσότερα . Δεκάδες άλλες ιστορίες μπορεί να έρθουν στο μυαλό.
Αλλά τι ακριβώς είναι ένα νευρωνικό δίκτυο; Πώς λειτουργεί; Και γιατί είναι τόσο δημοφιλής στη μηχανική μάθηση;
Ένας υπολογιστής σαν ένας εγκέφαλος
Οι σύγχρονοι νευροεπιστήμονες συζητούν συχνά τον εγκέφαλο ως έναν τύπο υπολογιστή. Τα νευρικά δίκτυα έχουν σκοπό να κάνουν το αντίθετο: να χτίσουν έναν υπολογιστή που λειτουργεί σαν ένας εγκέφαλος.
Φυσικά, έχουμε μόνο μια σύντομη κατανόηση των εξαιρετικά πολύπλοκων λειτουργιών του εγκεφάλου, αλλά δημιουργώντας μια απλοποιημένη προσομοίωση του τρόπου με τον οποίο ο εγκέφαλος επεξεργάζεται δεδομένα, μπορούμε να οικοδομήσουμε έναν τύπο υπολογιστή που λειτουργεί πολύ διαφορετικά από τον τυποποιημένο.
Οι επεξεργαστές υπολογιστών επεξεργάζονται σειριακά δεδομένα ("με σειρά"). Εκτελούν πολλές λειτουργίες σε ένα σύνολο δεδομένων, ένα κάθε φορά. Η παράλληλη επεξεργασία ("επεξεργασία πολλών ροών ταυτόχρονα") επιταχύνει σημαντικά τον υπολογιστή χρησιμοποιώντας πολλούς επεξεργαστές σε σειρά.
Στην παρακάτω εικόνα, το παράδειγμα παράλληλης επεξεργασίας απαιτεί πέντε διαφορετικούς επεξεργαστές:
Ένα τεχνητό νευρωνικό δίκτυο (που καλείται να το διακρίνει από τα πραγματικά νευρωνικά δίκτυα στον εγκέφαλο) έχει μια ριζικά διαφορετική δομή. Είναι πολύ διασυνδεδεμένο. Αυτό του επιτρέπει να επεξεργάζεται τα δεδομένα πολύ γρήγορα, να μαθαίνει από αυτά τα δεδομένα και να ενημερώνει τη δική του εσωτερική δομή για να βελτιώσει την απόδοση.
Ο υψηλός βαθμός διασύνδεσης, ωστόσο, έχει κάποια εκπληκτικά αποτελέσματα. Για παράδειγμα, τα νευρωνικά δίκτυα είναι πολύ καλά στην αναγνώριση των σκοτεινών προτύπων στα δεδομένα.
Η ικανότητα μάθησης
Η ικανότητα του νευρικού δικτύου να μάθει είναι η μέγιστη δύναμή του. Με την τυπική αρχιτεκτονική υπολογιστών, ο προγραμματιστής πρέπει να αναπτύξει έναν αλγόριθμο ο οποίος να λέει στον υπολογιστή τι πρέπει να κάνει με τα εισερχόμενα δεδομένα για να βεβαιωθεί ότι ο υπολογιστής εξάγει τη σωστή απάντηση.
Μια απάντηση εισόδου-εξόδου θα μπορούσε να είναι τόσο απλή όσο "όταν πιέζετε το πλήκτρο Α, εμφανίζετε 'A' στην οθόνη 'ή είναι τόσο περίπλοκο όσο εκτελείτε περίπλοκα στατιστικά στοιχεία. Τα νευρικά δίκτυα, από την άλλη πλευρά, δεν χρειάζονται τον ίδιο τύπο αλγορίθμων. Μέσω μηχανισμών μάθησης, μπορούν ουσιαστικά να σχεδιάσουν τους δικούς τους αλγορίθμους. 4 Αλγόριθμοι Μηχανικής Μάθησης που Σχηματίζουν τη Ζωή σας 4 Αλγόριθμοι Μηχανικής Μάθησης που Σχηματίζουν τη Ζωή σας Μπορεί να μην το συνειδητοποιήσετε, αλλά η μηχανική μάθηση είναι ήδη γύρω σας και μπορεί να ασκήσει εκπληκτικό βαθμό επιρροής πάνω από τη ζωή σας. Μη με πιστέψεις; Μπορεί να εκπλαγείτε. Διαβάστε περισσότερα για να βεβαιωθείτε ότι εκτελούνται σωστά.
Είναι σημαντικό να σημειωθεί ότι επειδή τα νευρωνικά δίκτυα είναι προγράμματα λογισμικού γραμμένα σε μηχανές που χρησιμοποιούν τυπικό υλικό επεξεργασίας σειριακής επεξεργασίας, η σημερινή τεχνολογία επιβάλλει ακόμη όρια. Στην πραγματικότητα, η οικοδόμηση μιας έκδοσης υλικού ενός νευρικού δικτύου είναι ένα άλλο πρόβλημα εξ ολοκλήρου.
Από τους νευρώνες στους κόμβους
Τώρα που έχουμε θέσει τις βάσεις για το πώς λειτουργούν τα νευρικά δίκτυα, μπορούμε να αρχίσουμε να εξετάζουμε ορισμένες από τις λεπτομέρειες. Η βασική δομή ενός τεχνητού νευρικού δικτύου μοιάζει με αυτό:
Κάθε ένας από τους κύκλους ονομάζεται "κόμβος" και προσομοιώνει έναν μόνο νευρώνα. Αριστερά είναι οι κόμβοι εισόδου, στη μέση υπάρχουν κρυφοί κόμβοι και στα δεξιά οι κόμβοι εξόδου.
Σε πολύ βασικούς όρους, οι κόμβοι εισόδου δέχονται τιμές εισόδου, οι οποίες θα μπορούσαν να είναι δυαδικές 1 ή 0, μέρος μιας τιμής χρώματος RGB, η κατάσταση ενός κομματιού σκακιού ή οτιδήποτε άλλο. Αυτοί οι κόμβοι αντιπροσωπεύουν τις πληροφορίες που ρέουν στο δίκτυο.
Κάθε κόμβος εισόδου συνδέεται με έναν αριθμό κρυφών κόμβων (μερικές φορές με κάθε κρυφό κόμβο, μερικές φορές με ένα υποσύνολο). Οι κόμβοι εισόδου παίρνουν τις πληροφορίες που τους δίνονται και τους μεταφέρουν στο κρυφό στρώμα.
Για παράδειγμα, ένας κόμβος εισόδου μπορεί να στείλει ένα σήμα ("πυρκαγιά" στη λέξη της νευροεπιστήμης) εάν λάβει ένα 1, και παραμένει αδρανής εάν λάβει ένα μηδέν. Κάθε κρυμμένος κόμβος έχει ένα κατώφλι: αν όλες οι αθροισμένες εισόδους του φτάσουν σε μια ορισμένη τιμή, πυρπολούν.
Από τις συνάψεις στις συνδέσεις
Κάθε σύνδεση, το ισοδύναμο μιας ανατομικής συνάψεως, λαμβάνει επίσης ένα συγκεκριμένο βάρος, το οποίο επιτρέπει στο δίκτυο να δίνει μεγαλύτερη έμφαση στη δράση ενός συγκεκριμένου κόμβου. Ακολουθεί ένα παράδειγμα:
Όπως μπορείτε να δείτε, το βάρος της σύνδεσης Β είναι υψηλότερο από αυτό της σύνδεσης Α και C. Ας υποθέσουμε ότι ο κρυμμένος κόμβος 4 θα πυροδοτήσει μόνο αν λάβει συνολική είσοδο 2 ή μεγαλύτερη. Αυτό σημαίνει ότι εάν 1 ή 3 πυρκαγιά από μόνα τους τότε 4 δεν θα ενεργοποιηθούν, αλλά 1 και 3 μαζί θα πυροδοτήσουν τον κόμβο. Ο κόμβος 2 θα μπορούσε επίσης να ενεργοποιήσει τον κόμβο μόνος του μέσω της σύνδεσης Β.
Ας πάρουμε τον καιρό ως πρακτικό παράδειγμα. Ας υποθέσουμε ότι σχεδιάζετε ένα απλό νευρωνικό δίκτυο για να καθορίσετε αν πρέπει να υπάρχει μια προειδοποίηση για καταιγίδα χειμώνα.
Χρησιμοποιώντας τις παραπάνω συνδέσεις και βάρη, ο κόμβος 4 μπορεί να πυροδοτηθεί μόνο εάν η θερμοκρασία είναι κάτω από 0 F και οι άνεμοι είναι πάνω από 30 MPH, ή θα πυροδοτούσε εάν υπάρχει περισσότερη από 70 τοις εκατό πιθανότητα χιονιού. Η θερμοκρασία θα τροφοδοτείται στον κόμβο 1, ο άνεμος στον κόμβο 3 και η πιθανότητα χιονιού στον κόμβο 2. Τώρα ο κόμβος 4 μπορεί να λάβει υπόψη όλα αυτά όταν καθορίζει ποιο σήμα πρέπει να στείλει στο στρώμα εξόδου.
Καλύτερη από απλή λογική
Φυσικά, αυτή η λειτουργία θα μπορούσε απλά να υιοθετηθεί με απλές AND / OR λογικές πύλες. Αλλά πιο σύνθετα νευρωνικά δίκτυα, όπως και το παρακάτω, είναι ικανά για σημαντικά πιο πολύπλοκες λειτουργίες.
Οι κόμβοι στρώματος εξόδου λειτουργούν με τον ίδιο τρόπο όπως και οι κρυμμένοι στρώσεις: οι κόμβοι εξόδου αθροίζουν την είσοδο από το κρυφό στρώμα και αν φτάσουν κάποια τιμή, οι κόμβοι εξόδου πυρπολούν και στέλνουν συγκεκριμένα σήματα. Στο τέλος της διαδικασίας, το στρώμα εξόδου θα στέλνει ένα σύνολο σημάτων που υποδεικνύει το αποτέλεσμα της εισόδου.
Ενώ το παραπάνω δίκτυο είναι απλό, τα βαθιά νευρικά δίκτυα μπορούν να έχουν πολλά κρυμμένα στρώματα και εκατοντάδες κόμβους.
Διόρθωση σφαλμάτων
Η διαδικασία, μέχρι στιγμής, είναι σχετικά απλή. Αλλά όπου πραγματικά νευρωνικά δίκτυα λάμπουν είναι στη μάθηση. Τα περισσότερα νευρικά δίκτυα χρησιμοποιούν μια διαδικασία που ονομάζεται backpropagation, η οποία στέλνει σήματα προς τα πίσω μέσω του δικτύου.
Πριν οι προγραμματιστές αναπτύξουν ένα νευρωνικό δίκτυο, το τρέχουν μέσω μιας φάσης κατάρτισης στην οποία δέχεται ένα σύνολο εισόδων με γνωστά αποτελέσματα. Για παράδειγμα, ένας προγραμματιστής μπορεί να διδάξει ένα νευρωνικό δίκτυο για να αναγνωρίσει εικόνες Χρησιμοποιήστε το Smartphone σας για να εντοπίσετε οτιδήποτε με το CamFind Χρησιμοποιήστε το Smartphone σας για να εντοπίσετε οτιδήποτε με το CamFind Αυτή η εφαρμογή μπορεί πραγματικά να εντοπίσει σχεδόν οποιοδήποτε αντικείμενο που πετάτε σε αυτό. Αυτό δεν είναι μόνο δροσερό, αλλά έχει και μια δέσμη πρακτικών χρήσεων! Διαβάστε περισσότερα . Η είσοδος μπορεί να είναι μια εικόνα ενός αυτοκινήτου και η σωστή έξοδος θα είναι η λέξη "αυτοκίνητο".
Ο προγραμματιστής παρέχει την εικόνα ως είσοδο και βλέπει τι εξέρχεται από τους κόμβους εξόδου. Εάν το δίκτυο αποκρίνεται με "αεροπλάνο", ο προγραμματιστής λέει στον υπολογιστή ότι είναι εσφαλμένο.
Το δίκτυο στη συνέχεια κάνει προσαρμογές στις δικές του συνδέσεις, αλλάζοντας τα βάρη των διαφορετικών συνδέσεων μεταξύ των κόμβων. Αυτή η ενέργεια καθοδηγείται από έναν ειδικό αλγόριθμο μάθησης που προστίθεται στο δίκτυο. Το δίκτυο συνεχίζει να προσαρμόζει τα βάρη σύνδεσης μέχρι να παρέχει τη σωστή έξοδο.
Πρόκειται για μια απλούστευση, αλλά τα νευρικά δίκτυα μπορούν να μάθουν πολύπλοκες λειτουργίες που χρησιμοποιούν παρόμοιες αρχές.
Συνεχής Βελτίωση
Ακόμη και μετά την προπόνηση, η backpropagation συνεχίζεται - και αυτό είναι όπου τα νευρικά δίκτυα γίνονται πραγματικά δροσερά. Συνεχίζουν να μαθαίνουν καθώς χρησιμοποιούνται, ενσωματώνοντας νέες πληροφορίες και τροποποιώντας τα βάρη των διαφόρων συνδέσεων, καθιστώντας όλο και πιο αποτελεσματικό και αποδοτικό στο έργο για το οποίο σχεδιάστηκαν.
Αυτό θα μπορούσε να είναι τόσο απλό όσο η αναγνώριση εικόνας ή τόσο περίπλοκο όσο το παιχνίδι Go.
Με αυτόν τον τρόπο, τα νευρικά δίκτυα αλλάζουν και βελτιώνονται συνεχώς. Και αυτό μπορεί να έχει εκπληκτικά αποτελέσματα, με αποτέλεσμα δίκτυα που δίνουν προτεραιότητα σε πράγματα που ένας προγραμματιστής δεν θα σκέφτηκε να δώσει προτεραιότητα.
Εκτός από τη διαδικασία που περιγράφεται παραπάνω, η οποία ονομάζεται εποπτευόμενη μάθηση, υπάρχει και μια άλλη μέθοδος: μάθηση χωρίς επίβλεψη .
Σε αυτή την περίπτωση, τα νευρικά δίκτυα παίρνουν μια εισροή και προσπαθούν να αναδημιουργήσουν ακριβώς στην έξοδο τους, χρησιμοποιώντας backpropagation για να ενημερώσουν τις συνδέσεις τους. Αυτό μπορεί να ακούγεται σαν άσκοπη άσκηση, αλλά με αυτό τον τρόπο, τα δίκτυα μαθαίνουν να εξάγουν χρήσιμα χαρακτηριστικά και να γενικεύουν αυτά τα χαρακτηριστικά για να βελτιώσουν τα μοντέλα τους.
Θέματα βάθους
Η backpropagation είναι ένας πολύ αποτελεσματικός τρόπος διδασκαλίας νευρωνικών δικτύων ... όταν είναι μόνο λίγα στρώματα βαθιά. Καθώς αυξάνεται ο αριθμός των κρυμμένων στρωμάτων, μειώνεται η αποτελεσματικότητα της πίσω προώθησης. Αυτό είναι ένα πρόβλημα για τα βαθιά δίκτυα. Χρησιμοποιώντας backpropagation, συχνά δεν είναι πιο αποτελεσματικές από απλά δίκτυα.
Οι επιστήμονες έχουν καταλήξει σε ορισμένες λύσεις σε αυτό το πρόβλημα, οι ιδιαιτερότητες των οποίων είναι αρκετά περίπλοκες και πέρα από το πεδίο εφαρμογής αυτού του εισαγωγικού τεκμηρίου. Αυτό που πολλές από αυτές τις λύσεις προσπαθούν να κάνουν με απλά λόγια είναι να μειώσουν την πολυπλοκότητα του δικτύου, εκπαιδεύοντάς το για να "συμπιέσει" τα δεδομένα.
Για να γίνει αυτό, το δίκτυο μαθαίνει να εξάγει έναν μικρότερο αριθμό αναγνωρίσιμων χαρακτηριστικών της εισόδου, τελικά καθιστώντας πιο αποτελεσματικό στους υπολογισμούς του. Στην πραγματικότητα, το δίκτυο κάνει γενικεύσεις και αφαιρέσεις, πολύ με τον ίδιο τρόπο που μαθαίνουν οι άνθρωποι.
Μετά από αυτή τη μάθηση, το δίκτυο μπορεί να κλαδεύει κόμβους και συνδέσεις που θεωρεί λιγότερο σημαντικές. Αυτό καθιστά το δίκτυο πιο αποτελεσματικό και η μάθηση γίνεται ευκολότερη.
Εφαρμογές νευρωνικών δικτύων
Έτσι, τα νευρωνικά δίκτυα προσομοιώνουν τον τρόπο με τον οποίο ο εγκέφαλος μαθαίνει χρησιμοποιώντας πολλαπλά στρώματα κόμβων - είσοδο, κρυφή και εξερχόμενη - και μπορούν να μάθουν τόσο σε εποπτευόμενες όσο και σε μη επιτηρούμενες καταστάσεις. Τα σύνθετα δίχτυα είναι σε θέση να κάνουν αφαιρέσεις και να γενικεύσουν, καθιστώντας τα πιο αποτελεσματικά και καλύτερα ικανά να μάθουν.
Τι μπορούμε να χρησιμοποιήσουμε για αυτά τα συναρπαστικά συστήματα;
Θεωρητικά, μπορούμε να χρησιμοποιήσουμε νευρωνικά δίκτυα σχεδόν για οτιδήποτε. Και ίσως τους χρησιμοποιούσατε χωρίς να το καταλάβετε. Είναι πολύ συνηθισμένοι στην ομιλία και την οπτική αναγνώριση, για παράδειγμα, επειδή μπορούν να μάθουν να επιλέγουν συγκεκριμένα χαρακτηριστικά που ακούγονται ή έχουν κοινές εικόνες.
Έτσι, όταν ζητάτε Siri 8 πράγματα που ίσως δεν συνειδητοποίησε Siri θα μπορούσε να κάνει 8 πράγματα που ίσως δεν συνειδητοποίησα Siri θα μπορούσε να κάνει Siri έχει γίνει ένα από τα χαρακτηριστικά γνωρίσματα του iPhone, αλλά για πολλούς ανθρώπους, δεν είναι πάντα η πιο χρήσιμη. Ενώ μερικά από αυτά οφείλονται στους περιορισμούς της αναγνώρισης φωνής, η περίεργη χρήση των ... Διαβάστε περισσότερα όπου ο πλησιέστερος σταθμός βενζίνης είναι, το iPhone σας βάζει την ομιλία σας μέσω ενός νευρωνικού δικτύου για να καταλάβω τι λέτε. Μπορεί να υπάρχει ένα άλλο νευρωνικό δίκτυο που μαθαίνει να προβλέπει τα είδη των πραγμάτων που είναι πιθανό να ζητήσετε.
Αυτοκίνητα αυτοκίνητα μπορεί να χρησιμοποιούν νευρωνικά δίκτυα για να επεξεργάζονται οπτικά δεδομένα, ακολουθώντας έτσι τους κανόνες οδικής κυκλοφορίας και αποφεύγοντας τις συγκρούσεις. Τα ρομπότ όλων των τύπων μπορούν να επωφεληθούν από τα νευρικά δίκτυα που τους βοηθούν να μάθουν να ολοκληρώνουν αποτελεσματικά τα καθήκοντά τους. Οι υπολογιστές μπορούν να μάθουν να παίζουν παιχνίδια όπως το σκάκι, το go, και το κλασικό Atari . Εάν έχετε μιλήσει ποτέ με ένα chatbot, υπάρχει μια πιθανότητα να χρησιμοποιεί ένα νευρωνικό δίκτυο για να προσφέρει τις κατάλληλες απαντήσεις.
η αναζήτηση στο διαδίκτυο μπορεί να ωφεληθεί σε πολύ μεγάλο βαθμό από τα νευρικά δίκτυα, καθώς το εξαιρετικά αποδοτικό μοντέλο παράλληλης επεξεργασίας μπορεί να απομακρύνει γρήγορα πολλά δεδομένα. Ένα νευρικό δίκτυο θα μπορούσε επίσης να μάθει τις συνήθειες σας για να εξατομικεύσετε τα αποτελέσματα αναζήτησης ή να προβλέψετε τι θα αναζητήσετε στο εγγύς μέλλον. Αυτό το πρότυπο πρόβλεψης θα ήταν προφανώς πολύ πολύτιμο για τους εμπόρους (και όποιοι άλλοι πρέπει να προβλέψουν πολύπλοκη ανθρώπινη συμπεριφορά).
Αναγνώριση εικόνας, οπτική αναγνώριση χαρακτήρων Τα 5 καλύτερα εργαλεία OCR για την εξαγωγή κειμένου από εικόνες Τα 5 καλύτερα εργαλεία OCR για την εξαγωγή κειμένου από εικόνες Όταν έχετε δεσμίδες χαρτιού, πώς μπορείτε να μετατρέψετε όλο αυτό το τυπωμένο κείμενο σε κάτι που ένα ψηφιακό πρόγραμμα θα είναι μπορεί να αναγνωρίσει και να δείξει; Κρατήστε ένα καλό λογισμικό OCR κοντά. Διαβάστε περισσότερα, πρόβλεψη αγοράς μετοχών, εύρεση δρομολογίων, επεξεργασία μεγάλων δεδομένων, ανάλυση ιατρικού κόστους, πρόβλεψη πωλήσεων, video game AI ... οι δυνατότητες είναι σχεδόν ατελείωτες. Η ικανότητα των νευρωνικών δικτύων να μάθουν σχέδια, να γενικεύουν και να προβλέπουν με επιτυχία τη συμπεριφορά τους, τους καθιστά πολύτιμους σε αμέτρητες καταστάσεις.
Το μέλλον των νευρωνικών δικτύων
Τα νευρικά δίκτυα έχουν προχωρήσει από πολύ απλά μοντέλα σε πολύπλοκες μαθησιακές προσομοιώσεις. Βρίσκονται στα τηλέφωνα μας, στα tablet μας και τρέχουμε πολλές από τις υπηρεσίες web που χρησιμοποιούμε. Υπάρχουν πολλά άλλα μηχανικά συστήματα μάθησης εκεί έξω.
Αλλά τα νευρικά δίκτυα, λόγω της ομοιότητάς τους (με πολύ απλοποιημένο τρόπο) με τον ανθρώπινο εγκέφαλο, είναι μερικά από τα πιο συναρπαστικά. Καθώς συνεχίζουμε να αναπτύσσουμε και να βελτιώνουμε τα μοντέλα, δεν υπάρχει λόγος για το τι θα είναι σε θέση.
Γνωρίζετε τις ενδιαφέρουσες χρήσεις των νευρωνικών δικτύων; Έχετε εμπειρία μόνοι σας; Τι θεωρείτε πιο ενδιαφέρον για αυτήν την τεχνολογία; Μοιραστείτε τις σκέψεις σας στα παρακάτω σχόλια!