AWS melipatgandakan infrastruktur sebagai strategi dalam perlombaan kecerdasan buatan dengan promosi Sagemaker

AWS Ia berupaya memperluas lokasinya di pasaran dengan Pembaruan untuk SagemakerPembelajaran Otomatis, Platform Pelatihan Model Kecerdasan dan Inferensi Buatan, dengan penambahan kemungkinan baru untuk pengamatan, lingkungan pengkodean yang terhubung dan manajemen kinerja GPU.

Namun, AWS terus menghadapi persaingan dari Google Dan MicrosoftDan itu juga menyediakan banyak fitur yang membantu mempercepat pelatihan dan inferensi kecerdasan buatan.

Sagemaker, yang telah berubah menjadi pusat terpadu untuk mengintegrasikan sumber data dan mengakses alat pembelajaran otomatis pada tahun 2024, menambahkan fitur -fitur yang memberikan wawasan tentang alasan mengapa kinerja model dan memberikan pelanggan AWS lebih banyak kontrol atas jumlah akun yang dialokasikan untuk pengembangan model.

Fitur -fitur baru lainnya termasuk koneksi lingkungan pengembangan terintegrasi lokal (IDE) dengan Sagemaker, sehingga proyek AI yang ditulis secara lokal dapat dipublikasikan di platform.

Direktur Jenderal Sagemaker Ankur Mehrotra VentureBeat mengatakan kepada banyak pembaruan baru ini yang berasal dari pelanggan itu sendiri.

“Salah satu tantangan yang telah kami lihat adalah menghadapi pelanggan kami sambil mengembangkan model Gen AI adalah bahwa ketika sesuatu yang salah atau ketika tidak ada yang terjadi, sangat sulit untuk menemukan apa yang terjadi di lapisan tumpukan itu.”

Pemantauan Hyperpod Sagemaker memungkinkan para insinyur untuk memeriksa berbagai lapisan tumpukan, seperti lapisan akun atau lapisan jaringan. Jika sesuatu yang salah terjadi atau model menjadi lebih lambat, Sagemaker dapat mengingatkan mereka dan menerbitkan standar di dasbor.

Mahletra merujuk pada masalah nyata yang dihadapi timnya saat melatih model baru, ketika kode pelatihan mulai menekankan unit pemrosesan grafis, menyebabkan fluktuasi suhu. Dia mengatakan bahwa tanpa alat terbaru, pengembang membutuhkan waktu berminggu -minggu untuk menentukan sumber masalah dan kemudian memperbaikinya.

IDES terhubung

Sagemaker telah menunjukkan dua cara bagi pengembang kecerdasan buatan untuk melatih dan mengoperasikan model. Itu sepenuhnya dapat diakses oleh IDE, seperti Jupyter Lab atau editor instruktur pemrograman, untuk menjalankan kode pelatihan SMM pada model melalui Sagemaker. Pahami bahwa insinyur lain lebih suka menggunakan IDE lokal, termasuk semua ekstensi yang mereka instal, AWS memungkinkan mereka untuk menjalankan kode mereka di perangkat mereka juga.

Namun, Mehrotra mengindikasikan bahwa itu berarti bahwa model yang dienkripsi secara lokal hanya dioperasikan secara lokal, jadi jika pengembang ingin berkembang, itu telah terbukti menjadi tantangan besar.

AWS telah menambahkan implementasi aman baru untuk memungkinkan pelanggan terus bekerja pada IDE pilihan mereka – baik lokal atau dikelola – dan terhubung ke Sagemaker.

“Jadi kemampuan ini sekarang memberi mereka yang terbaik di dua dunia di mana jika mereka mau, mereka dapat berkembang secara lokal di IDE lokal, tetapi sehubungan dengan melaksanakan tugas yang sebenarnya, mereka dapat memperoleh manfaat dari kemampuan untuk memperluas di Sagemaker,” katanya.

Lebih banyak fleksibilitas di akun

AWS Sagemaker Hyperpod diluncurkan pada Desember 2023 sebagai cara untuk membantu pelanggan mengelola kelompok server untuk model pelatihan. Mirip dengan penyedia layanan CoruvHyperpod memungkinkan pelanggan Sagemaker untuk mengarahkan energi yang tidak digunakan ke lokasi favorit mereka. Hyperpod diketahui ketika tanggal penggunaan GPU harus ditentukan berdasarkan pola permintaan dan memungkinkan lembaga menyeimbangkan sumber daya dan biaya mereka secara efektif.

Namun, AWS mengatakan banyak pelanggan ingin layanan yang sama menyimpulkan. Banyak tugas inferensi terjadi pada siang hari ketika orang menggunakan model dan aplikasi, sementara pelatihan biasanya dijadwalkan selama jam sibuk.

Mahletra mencatat bahwa bahkan di dunia, pengembang dapat memberikan prioritas pada tugas inferioritas yang harus difokuskan oleh hyperpod.

Laurent Sever, co -founder dan CTO di AI Agent Company H dariDia mengatakan di blog AWS bahwa perusahaan menggunakan Sagemaker Hyperpod saat membangun platform agen.

“Transisi yang lancar dari pelatihan ke penalaran penyederhanaan alur kerja kami, mengurangi waktu untuk produksi, dan memberikan kinerja yang konsisten di lingkungan hidup,” kata Seifry.

AWS dan kompetisi

Amazon mungkin tidak menawarkan model fondasi yang paling menakjubkan seperti para pesaingnya dari penyedia cloud, Google dan Microsoft. Namun, AWS lebih fokus pada penyediaan tulang punggung infrastruktur lembaga untuk membangun model, aplikasi atau agen kecerdasan buatan.

Selain Sagemaker, AWS juga menawarkan fondasi, yang merupakan platform yang dirancang khusus untuk membangun aplikasi dan agen.

Sagemaker telah hadir selama bertahun -tahun, dimulai pada awalnya sebagai cara untuk menghubungkan berbagai alat pembelajaran mesin ke danau data. Ketika saya memulai Buku Kecerdasan Buatan Truc, insinyur kecerdasan buatan mulai menggunakan Sagemaker untuk membantu melatih model bahasa. Namun, Microsoft sangat mendorong ekosistem kain, dengan 70 % perusahaan Fortune 500, untuk menjadi pelopor dalam akselerasi data dan AI. Google, melalui Vertex AI, telah diam -diam membuat cara untuk mengadopsi AI.

AWS, tentu saja, memiliki keuntungan menjadi penyedia cloud yang paling banyak digunakan. Setiap pembaruan yang akan membuat banyak platform infrastruktur kecerdasan buatan lebih mudah digunakan akan selalu bermanfaat.