Berita
Mengatasi hambatan: Mengapa AI membutuhkan masa depan yang mengutamakan SSD
Disampaikan oleh Solidigma
Seiring dengan meningkatnya adopsi AI, pusat data menghadapi hambatan besar dalam ruang penyimpanan — dan hard drive tradisional menjadi pusat permasalahan ini. Data yang sebelumnya tidak aktif sebagai arsip dingin kini lebih sering digunakan untuk membangun model yang lebih akurat dan memberikan hasil inferensi yang lebih baik. Peralihan dari data dingin ke data hangat memerlukan penyimpanan dengan throughput rendah dan throughput tinggi yang dapat menangani komputasi paralel. Hard drive akan tetap menjadi tulang punggung cold storage berbiaya rendah, namun tanpa memikirkan kembali perannya, lapisan penyimpanan berkapasitas tinggi mungkin menjadi mata rantai terlemah di pabrik AI.
"Beban kerja AI modern, dikombinasikan dengan kendala pusat data, telah menciptakan tantangan baru bagi SSD," kata Jeff Jankowitz, wakil presiden penelitian di IDC. "Meskipun vendor hard drive mengatasi pertumbuhan penyimpanan data dengan menawarkan drive yang lebih besar, hal ini sering kali mengakibatkan kinerja yang lebih lambat. Hasilnya, konsep “SSD terdekat” telah menjadi topik diskusi yang semakin penting dalam industri."
Saat ini, operator AI perlu memaksimalkan penggunaan GPU, mengelola penyimpanan yang terhubung ke jaringan secara efisien, dan meningkatkan skala komputasi – sekaligus memangkas biaya karena daya dan ruang yang semakin langka. Dalam lingkungan di mana setiap watt dan setiap inci persegi penting, kesuksesan memerlukan lebih dari sekadar pembaruan teknologi, kata Roger Correll, direktur senior AI dan kepemimpinan pemasaran di Solidigm. Hal ini memerlukan reorganisasi yang lebih mendalam.
“Hal ini menunjukkan perubahan mendasar dalam nilai data untuk AI,” kata Correll. “Di sinilah SSD berkapasitas tinggi ikut berperan. Seiring dengan kapasitas, SSD memberikan kinerja dan efisiensi – memungkinkan lini penyimpanan berskala exabyte mengimbangi laju ukuran kumpulan data yang konstan. Semua itu menghabiskan daya dan ruang, jadi kami perlu melakukannya seefisien mungkin untuk mengaktifkan lebih banyak jangkauan GPU di lingkungan terbatas ini.”
SSD berkapasitas tinggi tidak hanya menggantikan hard drive, tetapi juga menghilangkan salah satu hambatan terbesar di pabrik AI. Memberikan peningkatan besar dalam performa, efisiensi, dan kepadatan, SSD membebaskan daya dan ruang yang diperlukan untuk mendorong jangkauan GPU lebih jauh lagi. Ini bukan sekadar peningkatan penyimpanan, melainkan perubahan tektonik dalam cara infrastruktur data dirancang untuk era AI.
HDD vs. SDD: Lebih dari sekadar pembaruan perangkat keras
Hard drive memiliki desain mekanis yang mengesankan, namun terdiri dari banyak bagian bergerak yang menggunakan lebih banyak daya, memakan lebih banyak ruang, dan tingkat kerusakan lebih tinggi dibandingkan solid-state drive. Ketergantungan pada piringan berputar dan kepala baca/tulis mekanis secara inheren membatasi operasi input/output per detik (IOPS), sehingga menciptakan hambatan untuk beban kerja AI yang memerlukan latensi rendah, konkurensi tinggi, dan throughput berkelanjutan.
Hard drive juga mengalami tugas-tugas yang sensitif terhadap latensi, di mana tindakan fisik dalam mencari data menimbulkan penundaan mekanis yang tidak sesuai untuk inferensi dan pelatihan AI secara real-time. Selain itu, kebutuhan daya dan pendinginannya meningkat secara dramatis dengan akses data yang sering dan intensif, sehingga mengurangi efisiensi seiring dengan peningkatan volume data dan peningkatan suhu.
Sebaliknya, solusi penyimpanan berbasis SSD VAST mengurangi penggunaan energi sekitar $1 juta per tahun, dan dalam lingkungan AI yang setiap wattnya berarti, hal ini merupakan keuntungan besar bagi SSD. Untuk menggambarkan hal ini, Solidigm dan VAST Data menyelesaikan studi yang meneliti keekonomian penyimpanan data pada skala exabyte-quadrillion byte, atau miliar gigabyte, menganalisis konsumsi daya penyimpanan versus hard drive selama periode 10 tahun.
Sebagai referensi awal, Anda memerlukan empat hard drive 30TB untuk menyamai kapasitas satu SSD Solidigm 122TB. Setelah mempertimbangkan teknik reduksi data milik VAST yang dimungkinkan oleh kinerja SSD yang unggul, solusi exabyte mencakup 3.738 Solidigm SSD dibandingkan lebih dari 40.000 SSD berkapasitas tinggi. Studi ini menemukan bahwa solusi berbasis SSD VAST mengonsumsi daya penyimpanan 77% lebih sedikit.
Mengurangi jejak pusat data
"Kami mengirimkan drive 122TB ke beberapa OEM AI terkemuka di dunia dan penyedia cloud terkemuka," kata Coryell. "Saat membandingkan SSD 122TB dengan konfigurasi hybrid HDD + TLC SSD, mereka mendapatkan penghematan sembilan banding satu dalam ruang pusat data. Dan ya, hal ini penting bagi pusat data besar yang membangun reaktor nuklir mereka sendiri dan menandatangani perjanjian pembelian listrik dalam jumlah besar dengan penyedia energi terbarukan, namun hal ini semakin penting ketika Anda memasuki pusat data regional, pusat data lokal, dan hingga penerapan edge Anda di mana ruang bisa menjadi sangat mahal."
Penghematan sebesar sembilan banding satu lebih dari sekadar ruang dan daya – hal ini memungkinkan organisasi untuk menyesuaikan infrastruktur ke dalam ruang yang sebelumnya tidak tersedia, meningkatkan GPU, atau menciptakan tapak yang lebih kecil.
"Jika Anda diberi tanah sebanyak X dan energi sebesar Y, Anda akan menggunakannya. Anda adalah kecerdasan buatan" “Karena setiap watt dan inci persegi berarti, mengapa tidak menggunakannya dengan cara yang paling efisien? Dapatkan penyimpanan paling efisien di dunia dan aktifkan lebih banyak rentang GPU dalam lingkup yang sesuai untuk Anda,” jelas Corel. “Secara berkelanjutan, hal ini juga akan menghemat biaya operasional. Anda memiliki slot penyimpanan 90 persen lebih sedikit untuk dipelihara, dan biaya yang terkait dengan hal tersebut akan hilang.”"
Elemen lain yang sering diabaikan adalah jejak fisik (yang jauh) lebih besar dari data yang disimpan pada hard drive mekanis menghasilkan jejak bahan bangunan yang lebih besar. Secara kolektif, produksi beton dan baja menyumbang lebih dari 15% emisi gas rumah kaca global. Dengan mengurangi jejak fisik penyimpanan, SSD berkapasitas tinggi dapat membantu mengurangi emisi dari beton dan baja hingga lebih dari 80% dibandingkan dengan HDD. Pada tahap akhir siklus hidup pemeliharaan, yaitu akhir masa pakai mesin, motivasi untuk membuangnya akan berkurang 90%. .
Membentuk kembali strategi penyimpanan dingin dan arsip
Pindah ke SDD bukan sekadar peningkatan penyimpanan; Ini adalah reorganisasi mendasar dari strategi infrastruktur data di era AI, dan hal ini semakin meningkat.
"Scaler besar ingin mendapatkan hasil maksimal dari infrastruktur mereka yang ada, melakukan hal-hal yang tidak diinginkan, jika Anda mau, dengan hard drive seperti melakukan provisi berlebihan hingga hampir 90% untuk mencoba mengekstrak IOPS per terabyte sebanyak mungkin, tetapi mereka mulai menunjukkan," kata Coryell. "Ketika mereka beralih ke infrastruktur penyimpanan modern dan berkapasitas tinggi, industri secara keseluruhan akan berada di jalur yang sama. Selain itu, kami mulai melihat pembelajaran tentang nilai penyimpanan modern dalam AI yang juga diterapkan pada sektor lain, seperti analisis data besar, komputasi kinerja tinggi, dan banyak lainnya."
Meskipun solusi all-flash hampir diadopsi secara universal, selalu ada tempat untuk hard drive, tambahnya. Hard drive akan terus digunakan untuk keperluan seperti pengarsipan, penyimpanan dingin, dan skenario di mana biaya murni per gigabyte melebihi kebutuhan akses real-time. Namun seiring dengan memanasnya ekonomi token dan perusahaan menyadari nilai monetisasi data, segmen data panas dan dingin akan terus tumbuh.
Memecahkan tantangan energi masa depan
Kini dalam generasi keempatnya, dengan lebih dari 122 exabyte kumulatif yang dikirimkan hingga saat ini, teknologi QLC (Quad-Level Cell) Solidigm telah memimpin industri dalam menyeimbangkan kapasitas hard disk yang lebih tinggi dengan efisiensi biaya.
"Kami tidak menganggap penyimpanan hanya sebagai penyimpanan bit dan byte. Kami sedang memikirkan cara mengembangkan dorongan luar biasa ini yang dapat memberikan manfaat tingkat solusi," kata Coryell. "Bintang cemerlang dari hal ini adalah E1.S yang baru saja diluncurkan, dirancang khusus untuk penyimpanan padat dan efisien dalam konfigurasi penyimpanan terpasang langsung untuk server GPU tanpa kipas generasi berikutnya."
Solidigm D7-PS1010 E1.S merupakan pencapaian luar biasa, SSD pertama di industri dengan teknologi pendingin cair direct-to-chip satu sisi. Solidigm bekerja sama dengan NVIDIA untuk mengatasi tantangan ganda yaitu manajemen panas dan efisiensi biaya, sekaligus memberikan kinerja tinggi yang diperlukan untuk beban kerja AI yang berat.
"Kami dengan cepat beralih ke lingkungan di mana semua komponen TI penting akan didinginkan langsung ke chip di sisi koneksi langsung," Dia bilang. "Saya pikir pasar perlu mempertimbangkan pendekatan mereka terhadap pendinginan, karena setidaknya kendala energi dan tantangan energi tidak akan mereda dalam hidup saya. Mereka perlu menerapkan pola pikir cloud baru dalam merancang infrastruktur yang paling efisien."
Inferensi yang semakin kompleks memberikan tekanan pada dinding memori, menjadikan arsitektur penyimpanan sebagai tantangan desain garis depan, bukan hanya sekedar renungan. SSD berkapasitas tinggi, dikombinasikan dengan pendingin cair dan desain yang efisien, kini muncul sebagai satu-satunya jalan untuk memenuhi permintaan AI yang meningkat. Tugasnya sekarang adalah membangun infrastruktur tidak hanya untuk efisiensi, namun juga untuk penyimpanan yang dapat diskalakan secara efisien seiring pertumbuhan data. Organisasi yang mengatur ulang penyimpanan sekarang akan menjadi organisasi yang mampu menskalakan AI di masa depan.
Artikel bersponsor adalah konten yang diproduksi oleh perusahaan yang membayar postingan tersebut atau memiliki hubungan kerja dengan VentureBeat, dan selalu diberi label dengan jelas. Untuk informasi lebih lanjut, hubungi penjualan@venturebeat.com.