$NVDA Jonathan Ross mengatakan bahwa memori adalah hambatan terbesar AI saat ini, tetapi hambatan tidak bersifat permanen.

“Setiap kali hambatan menjadi cukup besar, orang akan menyelesaikannya.”
Peringatannya adalah bahwa memori bisa tetap sangat berharga selama terbatas, tetapi jika menjadi terlalu mahal atau langka, itu menjadi masalah yang harus diatasi insinyur.
Jika memori menjadi terlalu banyak hambatan, industri akan mulai mencari cara untuk mengurangi ketergantungannya padanya.
Dia mengatakan bahwa memori adalah “segmen paling dikomersialisasikan dari rantai pasokan semikonduktor,” tetapi sekarang menjadi salah satu kendala terpenting dalam AI.
Ross menjelaskan ini dengan analogi barang Giffen. Jika memori menjadi lebih mahal, pelanggan mungkin awalnya menghabiskan lebih banyak karena itu penting. Tetapi akhirnya, jika harga terlalu tinggi, mereka mencari pengganti.
“jika memori terlalu mahal dan orang tidak membangunnya cukup banyak, orang akan menyelesaikan masalah itu secara teknologi.”
Contoh DeepSeek sesuai dengan pendapatnya. Ketika pewawancara menyebutkan bahwa DeepSeek V4 mengompresi cache KV sebesar 90%, Ross menjawab bahwa pekerjaan rekayasa ini memiliki biaya peluang.
“Jika mereka memiliki cukup memori, mereka akan mengerjakan sesuatu yang lain. Jika tidak terlalu mahal, mereka akan mengerjakan sesuatu yang lain.”
“Kamu buat masalah itu cukup besar. Itu adalah bunga tinggi. Begitu menjadi terlalu tinggi, itu akan dipotong.”