Long Short Term Memory (LSTM)

Algoritma Long Short Term Memory (LSTM) merupakan salah satu metode yang digunakan untuk mengolah data waktu atau data time series. Kumpulan data Time Series atau runtun waktu dapat dijadikan sumber untuk memprediksi tren yang akan terjadi di masa depan. Algoritma ini umum diaplikasikan dalam bahasa pemrograman Phyton.

Dengan memanfaatkan proyeksi hasil dari perhitungan LSTM ini, tentunya kita dapat merancang strategi yang paling tepat untuk memperoleh keuntungan yang optimal. Sebelum masuk ke dalam proses LSTM, data akan melalui beberapa proses terlebih dahulu, seperti cleansing, transforming, smoothing dan differencing.

Sejarah LSTM

LSTM berawal dari Recurrent Neural Network (RNN) yang juga merupakan penegembangan lanjutan dari Neural Network (NN). RNN itu sendiri memiliki desain multi layer neural network yang menyertakan pengulangan data. Berkat kemampuan tersebut RNN mampu mengolah data time series, di mana data tersebut saling berkaitan, antara data sebelum dengan data sesudah.

Deretan data yang panjang akan membuahkan nilai gradien nol atau dikenal dengan vanishing gradient. Nilai gradien berperan untuk memutakhirkan bobot baru. Kondisi demikian mengakibatkan RNN memiliki memori terbatas, hanya sanggup mengolah data dengan tingkat dependensi yang pendek.

Sebagai solusi dari masalah tersebut, maka dikembangkanlah LSTM, yang tersusun atas kombinasi rangkaian gate yang lebih rumit. Sehingga, LSTM memiliki jaringan blok memori yang kapabel dalam memproses data dengan tingkat dependensi yang panjang. 

Arsitektur LSTM

Arsitektur satu sel LSTM terdiri dari kombinasi

1. Memory cell

Memory cell menjadi tempat dalam menyimpan nilai baru.

• Input Gate

Input Gate mengatur seberapa jauh nilai yang masuk akan berjalan ke dalam cell.

• Output Gate

Output Gate bertugas mengatur seberapa jauh nilai dalam cell digunakan untuk mengkalkulasikan besaran aktivasi keluaran dari unit LSTM.

• Forget Gate

Forget Gate berperan dalam mengatur seberapa jauh nilai akan tetap di dalam cell.

LSTM memiliki kemampuan untuk menentukan apa yang disimpan atau dihapus pada forget gate layer. Selain itu, LSTM efisien dalam merekam informasi panjang.