Speech recognition with the use of deep neural networks

Η παρούσα εργασία αφορά την υλοποίηση ενός συστήματος αυτόματης αναγνώρισης ομιλίας με την χρήση Deep Neural Networks. Βασίζεται στην εργασία του BAIDU “Deep Speech 2” και έχει υλοποιηθεί με python και TensorFlow. Ξεκινάει με μια μικρή εισαγωγή στα συστήματα αναγνώρισης ομιλίας (ASR) με στατιστικές μεθόδους όπως τα Hidden Markov Models, και συνεχίζει περιγράφοντας αναλυτικά την λειτουργία των νευρωνικών δικτύων με >1 κρυφά επίπεδα. Συνεχίζει με ένα άλλο είδος ΝΝ, τα “Συνελικτικά νευρωνικά Δίκτυα” (Convolutional Neural Networks), όπου ενώ αρχικά χρησιμοποιήθηκαν για επεξεργασία εικόνας και αναγνώριση αντικειμένων, έχουν θεαματικά αποτελέσματα και στην επεξεργασία ήχου. Άλλος είδος δικτύων, ειδικά για δεδομένα που αλλάζουν κατά μήκος του χρόνου και περιγράφονται αναλυτικά, είναι τα RNN (Recurrent Neural Networks). Παραλλαγές αυτών όπως τα LSTMs (Long Short Term Memory) τα GRU (Gated Recurrent Unit) υπάρχουν στις πιο πρόσφατες έρευνες όσο αφορά το ASR. Τέλος παρουσιάζονται τα 4 διαφορετικές τοπολογίες δικτύων που συνδυάζουν όλα τα παραπάνω χαρακτηριστικά και τα αποτελέσματα των προβλέψεων, μαζί με τον πηγαίο κώδικα για την αναπαραγωγή των αποτελεσμάτων.