Zeneszövegek generálása karakteralapú rekurrens neurális hálózatok segítségével

Kis-Szabó, Norbert (2018) Zeneszövegek generálása karakteralapú rekurrens neurális hálózatok segítségével. BA/Bsc, Szegedi Tudományegyetem.

[thumbnail of 2018_Kis_Szabó_Norbert_R2JPE8_SZ.pdf] PDF
2018_Kis_Szabó_Norbert_R2JPE8_SZ.pdf
Hozzáférés joga: SZTE designated computers only

Download (657kB)
[thumbnail of 2018_kis_szabo_norbert_biralati_lap.pdf] PDF
2018_kis_szabo_norbert_biralati_lap.pdf
Hozzáférés joga: Repository staff only

Download (348kB)
[thumbnail of 2018_kis_szabo_norbert.zip] Archive (ZIP)
2018_kis_szabo_norbert.zip
Hozzáférés joga: SZTE designated computers only

Download (252MB)

Abstract

A rekurrens neurális hálók már a 80-as években megjelentek. Ezek olyan szekvenciális modellek, melyek figyelembe veszik a tanulás előző o állapotait a döntéshozatalban. A ma használt rekurrens hálók közül az LSTM, azaz long shot-term memory a legkedveltebb mind közül, mert megoldást talál az RNN-ek egy alapvető problémájára, a gradiensek ˝ drasztikus növekedésére vagy csökkenésére, melyek ellehetetlenítik a hosszútávú tanulást. Ezt a hálótípust alkalmazom dolgozatomban. Dolgozatom célja LSTM rétegekkel létrehozni egy modellt, amely képes megtanulni egy adott előadó zenei stílusát karakterek sorozatát nézve. Pontosabban felteszi magában a kérdést: ha ezt az x hosszú szöveget látom, vajon az előadó mit írna x+1. karakternek? A model létrehozásában a python nyelven elérhető Keras és annak hátterében a TensorFlow keretrendszereket használom. Keras egy API amely elfedi a neurális hálókhoz szükséges matematika nagy részét a fejlesztő elől, így átláthatóbbá téve a kódot, TensorFlow pedig egy eszköz mellyel gépi tanuló szoftvereket könnyedén lehet tanítani gyorsasága miatt, valamint átláthatóvá teszi a fejlesztést a TensorBoard segítségével, mely egy vizualizációs eszköz. Szakdolgozatomban először ismertetem az egyszerű neurális hálókat, működésüket, majd ismertetem a rekurrens hálókat, azok hasznát, és kitérek a problémájukra melyet az LSTM old meg. Ezután ismertetem a Keras keretrendszerét, a TensorFlow működését és ezen belül a TensorBoard-ot. Ezek ismeretében már olvasható a TensorBoard vizualizációja, így megmutatom a tanítások eredményeit.

English title

Generating lyrics using character-level recurrent neural networks

Institution

Szegedi Tudományegyetem

Faculty

Faculty of Science and Informatics

Department

Számítógépes Algoritmusok és Mesterséges Intelligencia Tanszék

Discipline

Natural Sciences

Institute

Informatikai Intézet

Specialization

programtervező informatikus

Supervisor(s)

Supervisor
Supervisor scientific name label
Email
EHA
Berend, Gábor
UNSPECIFIED
UNSPECIFIED
UNSPECIFIED

Item Type: Thesis (BA/Bsc)
Uncontrolled Keywords: gépi tanulás, neurális hálók, természetesnyelv-feldolgozás, rekurrens neurális hálók, LSTM
Subjects: 01. Natural sciences
01. Natural sciences > 01.02. Computer and information sciences
Depositing User: TTIK szerkesztő
Date Deposited: 2019. Sep. 25. 10:30
Last Modified: 2023. Nov. 07. 19:54
URI: https://diploma.bibl.u-szeged.hu/id/eprint/73248

Actions (login required)

View Item View Item