Kis-Szabó, Norbert (2018) Zeneszövegek generálása karakteralapú rekurrens neurális hálózatok segítségével. BA/Bsc, Szegedi Tudományegyetem.
PDF
2018_Kis_Szabó_Norbert_R2JPE8_SZ.pdf Hozzáférés joga: SZTE designated computers only Download (657kB) |
|
PDF
2018_kis_szabo_norbert_biralati_lap.pdf Hozzáférés joga: Repository staff only Download (348kB) |
|
Archive (ZIP)
2018_kis_szabo_norbert.zip Hozzáférés joga: SZTE designated computers only Download (252MB) |
Abstract
A rekurrens neurális hálók már a 80-as években megjelentek. Ezek olyan szekvenciális modellek, melyek figyelembe veszik a tanulás előző o állapotait a döntéshozatalban. A ma használt rekurrens hálók közül az LSTM, azaz long shot-term memory a legkedveltebb mind közül, mert megoldást talál az RNN-ek egy alapvető problémájára, a gradiensek ˝ drasztikus növekedésére vagy csökkenésére, melyek ellehetetlenítik a hosszútávú tanulást. Ezt a hálótípust alkalmazom dolgozatomban. Dolgozatom célja LSTM rétegekkel létrehozni egy modellt, amely képes megtanulni egy adott előadó zenei stílusát karakterek sorozatát nézve. Pontosabban felteszi magában a kérdést: ha ezt az x hosszú szöveget látom, vajon az előadó mit írna x+1. karakternek? A model létrehozásában a python nyelven elérhető Keras és annak hátterében a TensorFlow keretrendszereket használom. Keras egy API amely elfedi a neurális hálókhoz szükséges matematika nagy részét a fejlesztő elől, így átláthatóbbá téve a kódot, TensorFlow pedig egy eszköz mellyel gépi tanuló szoftvereket könnyedén lehet tanítani gyorsasága miatt, valamint átláthatóvá teszi a fejlesztést a TensorBoard segítségével, mely egy vizualizációs eszköz. Szakdolgozatomban először ismertetem az egyszerű neurális hálókat, működésüket, majd ismertetem a rekurrens hálókat, azok hasznát, és kitérek a problémájukra melyet az LSTM old meg. Ezután ismertetem a Keras keretrendszerét, a TensorFlow működését és ezen belül a TensorBoard-ot. Ezek ismeretében már olvasható a TensorBoard vizualizációja, így megmutatom a tanítások eredményeit.
English title
Generating lyrics using character-level recurrent neural networks
Institution
Szegedi Tudományegyetem
Faculty
Faculty of Science and Informatics
Department
Számítógépes Algoritmusok és Mesterséges Intelligencia Tanszék
Discipline
Institute
Informatikai Intézet
Specialization
Supervisor(s)
Item Type: | Thesis (BA/Bsc) |
---|---|
Uncontrolled Keywords: | gépi tanulás, neurális hálók, természetesnyelv-feldolgozás, rekurrens neurális hálók, LSTM |
Subjects: | 01. Natural sciences 01. Natural sciences > 01.02. Computer and information sciences |
Depositing User: | TTIK szerkesztő |
Date Deposited: | 2019. Sep. 25. 10:30 |
Last Modified: | 2023. Nov. 07. 19:54 |
URI: | https://diploma.bibl.u-szeged.hu/id/eprint/73248 |
Actions (login required)
View Item |