Beberapa pemikiran tentang desain alat dan kecerdasan buatan – Beragampengetahuan

Oke, peringatan yang adil, ini adalah postingan tentang alat AI, ditulis oleh seseorang yang jarang menggunakannya! Saya merasa tidak memenuhi syarat untuk menulis artikel ini. Tapi menurutku akan menyenangkan untuk melihat kembali. Sekalipun saya tidak memenuhi syarat untuk menulis sesuatu, hal itu tidak menghentikan saya untuk melakukannya. Bukan di blog pribadi saya. Bagaimanapun, mari kita mulai:

Bentuk kanonik interaksi dengan apa yang kita anggap sebagai “kecerdasan buatan” adalah sebagai berikut:

• Mari ngobrol
• Anda memasukkan pertanyaan
• Berapa detik Anda menunggu?
• Anda mulai melihat jawabannya. kamu mulai membacanya
• Anda membaca atau memindai selama beberapa lusin detik dan kemudian menampilkan respons lainnya
• Anda mungkin melihat tanggapannya secara lebih rinci
• Anda merespons
• Siklus ini terus berlanjut

Jika Anda melakukan ini sepanjang hari… Anda mungkin ingin berlangganan layanan ini. Setiap kueri membutuhkan banyak uang untuk dihasilkan (bertentangan dengan ekspektasi standar layanan Web “hampir gratis”).

Pemrogram menggunakan versi yang sedikit berbeda di mana mereka menghubungkan dokumen yang sedang mereka kerjakan ke AI sehingga AI dapat mengoperasikannya secara langsung. Kemudian mereka tinggal melakukan bagian pengetikan dan review setiap beberapa menit. Namun proses mengajukan pertanyaan dan menunggu jawaban masih sangat umum.

Sekarang, saat saya memikirkan tentang atribut alat yang baik, dan saat saya secara pribadi membahas berbagai hal saat memikirkan cara meningkatkan alat, berikut beberapa hal yang terlintas di benak saya: [^1]:

latensi rendah

Semakin kecil jarak antara mencoba sesuatu dan melihat apakah berhasil, semakin baik. Proses yang berbeda dapat berbeda beberapa kali lipat dalam ukuran putaran umpan baliknya. Jika Anda menulis naskah film, Anda tidak akan bisa melihat dengan baik bagaimana naskah itu menjadi sebuah film selama bertahun-tahun. Saat itu semuanya sudah terlambat. Pembuatan film sepertinya menakutkan bagi saya! Jika Anda mengetik di komputer yang lamban dan huruf-hurufnya membutuhkan waktu setengah detik untuk muncul, itu sangat mengganggu dan kemungkinan besar Anda akan membuat lebih banyak kesalahan daripada yang seharusnya. Namun selalu: semakin sedikit penundaan, semakin baik. Dan ada beberapa perubahan langkah yang bisa Anda masukkan ke dalam kategori persepsi berbeda dengan cukup cepat. Ketika segala sesuatunya mengalami penundaan yang cukup kecil, kita tidak lagi melihatnya sebagai hal yang terjadi kembalikita mulai menganggapnya sedang terjadi meskipun. Ini jauh lebih baik. Alternatifnya, jika Anda beralih dari sepuluh detik ke satu digit detik, Anda memiliki lebih sedikit ruang untuk gangguan saat menunggu – sekali lagi, lebih baik.

manipulasi langsung

Jika saya sedang mengembangkan video game dan bekerja dengan seorang seniman, saya ingin seniman tersebut dapat memasukkan karya seninya ke dalam game tersebut. Sebagian karena ini berarti pekerjaan saya tidak terlalu membosankan, tapi sebagian besar karena ketika Anda melakukan ini, Anda perlu membuat banyak keputusan kecil, dan saya ingin mata mereka yang mengambil keputusan kecil itu, bukan keputusan saya. Oh, ini agak terlalu besar dan merusak komposisinya. Warnanya terlihat agak berlumpur pada latar belakang ini. Bagaimana jika cahayanya sedikit redup? Saya bisa saja mengambil keputusan ini, tapi lebih buruk lagi. Karena mereka memiliki wawasan yang lebih baik mengenai hal-hal ini dibandingkan saya – itulah sebabnya saya bekerja dengan mereka! Atau kita bisa menunggu saya melakukannya, lalu mereka melihatnya, lalu saya melakukan perubahan. Namun setiap perubahan yang dilakukan dengan cara ini agak rumit. Tugas tambahan di daftar tugas Anda. Jika itu cegukan kecil…tidak ada gunanya.

Oleh karena itu, sebaiknya seniman dapat memanipulasi efek artistik dalam game secara langsung. Umpan balik tentang cara kerja dapat diperoleh secara real-time. Saya kira itu sebenarnya cara lain untuk membicarakan latensi. Anda hanya bisa mendapatkan latensi yang lebih rendah jika Anda dapat melihat hasil operasi saat Anda melakukannya. Seperti, saya mengetik ini di keyboard saya dan melihat huruf-hurufnya muncul di layar. Secara teknis, ini bukanlah manipulasi langsung, namun kedua proses tersebut sangat terkait dan dapat terjadi secara bersamaan sehingga seolah-olah merupakan hal yang sama. Jika saya mengetik sejumlah kata dan kemudian harus pergi ke tempat lain untuk melihat kata-kata tersebut muncul dan kemudian mengeditnya – putaran umpan balik meningkat dan pengalamannya menjadi lebih buruk.

murah atau gratis

Saya bekerja di banyak bidang dan menggunakan banyak alat berbeda. Saya sangat ingin alat saya gratis. Salah satu alasannya adalah memiliki lebih sedikit uang, dan siapa yang tidak suka menghabiskan lebih sedikit uang. Dan – itu berarti saya lebih mungkin terkena dampaknya di masa depan. Kalau berlangganan, hanya layak dibayar jika saya aktif menggunakannya. Jika pembelian satu kali…apakah akan berhenti berfungsi saat saya mengupgrade OS? Bisakah saya menemukan lisensi? Apakah mereka akan bangkrut? Jika saya perlu berbagi file pekerjaan dengan seseorang, saya akan melakukannya mereka Bisakah saya mengeditnya? Saya akan membayar untuk perangkat lunak yang berguna, jangan salah paham…tetapi perangkat lunak berbayar tidak berguna seperti perangkat lunak setara yang gratis.

Sejujurnya, saya pikir Anda bisa mengerti maksud saya. Desain kanonik alat AI saat ini tidak sejalan dengan ketiga prinsip ini. Anda harus menunggu tanggapannya (streaming saat balasan dibuat adalah trik yang bagus untuk mengurangi latensi, tetapi kebutuhan akan trik ini menunjukkan seberapa besar upaya yang mereka lakukan di sini). Anda tidak mengontrol keluaran secara langsung, melainkan Anda melakukan penghapusan – jelaskan perubahannya daripada melakukannya secara langsung. Kontrol model berada di luar kendali Anda, dan Anda mempertimbangkan batasan penggunaan, meskipun Anda menggunakan paket gratis.

Tetapi! Saya rasa AI tidak hanya akan digunakan untuk itu saja. Sebagai perbandingan:

Ini adalah model kecerdasan buatan mutakhir…yang dapat digunakan dengan berinteraksi langsung dengan video. Itu dibangun dengan cara yang canggih sehingga interaksi dapat memiliki latensi minimal (ada lebih banyak latensi ketika gambar atau fragmen baru diperkenalkan, namun interaksi memiliki latensi lebih rendah). Ini adalah model sumber terbuka, jadi jika Anda membangun sesuatu dengannya (dan menghostingnya sendiri, yang tentu saja sangat menyusahkan dan cukup mahal) model tersebut akan terus berfungsi dengan baik di masa depan.

Jadi ketika saya melihat masa depan alat AI, saya sangat bersemangat. Saya telah menulis sebelumnya tentang mengapa saya optimis terhadap model lokal – model tersebut tidak sepopuler saat ini, namun saya masih yakin bahwa model tersebut merupakan taruhan jangka panjang yang lebih baik daripada model yang dikelola saat ini.

Namun…Saya menemukan postingan blog Steve Yegge yang luar biasa (menghina) ini Kemarin Seminggu kemudian, kesimpulan utama saya dari hal ini adalah bahwa sebagian besar kerumitan berhubungan dengan fakta bahwa agen yang dia gunakan membutuhkan waktu lama untuk menunjukkan hasil. Kompleksitas itu ada karena ia ingin mengerjakan banyak pekerjaan dalam waktu yang bersamaan. Dia ingin banyak pekerjaan dilakukan secara paralel karena itu berarti bagian-bagian penting (dia) bisa sibuk meninjau dan merencanakan. Beban mental yang ditimbulkan oleh sistem cukup besar – akan lebih sedikit jika sistem lebih kontinyu, sehingga hanya satu perubahan yang terjadi pada satu waktu – namun hal ini merupakan trade-off yang bermanfaat untuk menghilangkan banyak periode menganggur yang seharusnya terjadi pada laju LLM saat ini.

(Dua faktor penting lainnya dalam desain adalah dampak psikologis dari penggunaan sistem – ini menarik! Segala sesuatu selalu terjadi! Anda tidak perlu menggunakan kemauan keras untuk membuatnya terus bergerak! – dan tidak dapat diandalkannya agen AI tertentu. Jadi, Anda perlu memiliki agen yang mengawasi agen, agen yang mengawasi agen, agen yang mengawasi agen… tetapi faktor-faktor ini kurang relevan dengan poin saya di postingan ini.)

Tentu saja, boleh saja mengatakan “akan lebih baik jika lebih cepat” – semua orang sudah setuju. Sebenarnya membuatnya lebih cepat adalah cerita lain. Namun menurut saya alat AI dengan karakteristik ini memiliki kesan yang sangat berbeda dibandingkan alat dengan karakteristik tersebut. “Slop” berasal dari AI yang mengisi kesenjangan antara niat dan eksekusi. Sistem di mana pengguna memanipulasi sistem secara lebih langsung dapat menghindari hal ini. Anda tidak lagi menyensor keluarannya, tetapi langsung membentuknya. Ada lebih sedikit ruang untuk menambah dan menghapus keburaman dan detail yang tidak diinginkan. Saya rasa perlu dicatat bahwa contoh positif yang saya berikan adalah melakukan tugas tertentu pada gambar visual, sedangkan contoh negatifnya adalah mengerjakan basis kode tekstual yang besar. Manipulasi langsung menjadi lebih sulit seiring dengan meningkatnya tingkat abstraksi (tetapi “apakah ini ikan” cukup abstrak dibandingkan dengan “piksel ini memiliki warna #45e282”, jadi bukan berarti kita tidak berurusan dengan abstraksi sama sekali dalam domain visual). Saya selalu sedikit frustrasi karena alat yang akhirnya kami gunakan untuk menghasilkan gambar adalah “tulis teks” -> konversi ke vektor berdimensi tinggi -> menghasilkan gambar dari vektor berdimensi tinggi. Kita dapat mengembangkan alat untuk memanipulasi vektor berdimensi tinggi secara lebih langsung! Butuh waktu untuk memikirkannya, dan memerlukan pembelajaran atas nama pengguna, tapi… banyak pengguna yang bersedia mempelajari sesuatu yang baru jika itu membantu mereka membangun sesuatu yang lebih baik. Apakah ada yang setara saat membuat kode? Menurutku pasti ada. Jika kita mulai menganalisis basis kode menggunakan alat penyematan vektor, bisakah kita mulai mendapatkan properti kode? Bisakah kita mulai membuat sesuatu sehingga pengujian diperlakukan berbeda secara mendasar dibandingkan penerapan kode? Apakah kita perlu melakukan pengeditan menggunakan abstraksi yang tidak dapat diandalkan dan rentan seperti yang diisyaratkan oleh LLM?

Saya mengumpulkan beberapa tautan sambil memikirkan hal ini:

Alat AI… tambahkan pintasan sehingga hal normal tidak benar-benar menggunakan AI demi mengurangi latensi:

Tindakan instan telah ditambahkan ke Substage

Matt Webb mempertimbangkan ritme yang berbeda dari agen kecerdasan buatan. Menyelesaikan masalah desain dengan cara yang berbeda, yaitu memiliki sesuatu yang bermanfaat namun sangat berguna lambat Jenis perangkat lunak yang berjalan

Rumah alami bagi agen AI adalah aplikasi pengingat Anda

Diposting pada Kamis, 15 Januari 2026. 1.177 kata, 17 link. Penulis: Matt Weber.

Maggie Appleton dengan kritis memeriksa postingan Gastown, menyaring kekacauan untuk mengidentifikasi beberapa pola desain masa depan. Sekali lagi, hal ini sebagian besar berasal dari keberadaan agen yang bekerja secara bersamaan (karena mereka terlalu lambat untuk dijalankan secara berurutan) dan cara mengelola konsekuensinya. Ada juga beberapa hal pintar tentang cara mengelola jendela kontekstual terbatas LL.M.

Pola proksi Kota Gas, hambatan desain, dan Vibecoding skala besar

Tentang pola orkestrasi agen, mengapa desain dan pemikiran kritis menjadi hambatan baru, dan apakah kita harus berhenti melihat kode

Naomi Alderman mengeksplorasi inti layanan AI – apakah AI diterapkan pada seluruh alat, atau lembaga LLM yang mencakup semuanya. Saat ini “dapatkan LL.M.” model, masuk akal bagi agen untuk memasukkan hal-hal lain – tapi menurut saya masa depan yang lebih kuat adalah ketika alat menjadi lebih baik dengan mengintegrasikan AI yang lebih spesifik dan berguna.

Komik karya Amy Marie Stadelmann, sang seniman merefleksikan pengulangan buruk yang ditimbulkan oleh perintah AI, dan betapa tidak layaknya hal itu bagi mereka.

Ada juga demo yang secara langsung mengatasi masalah latensi:

[1: I should actually also do this comparison with the list of points I came up with for this talk, on making specifically “creative tools” – tools to encourage novice users to make art.

But these points are more specifically for that type of tool, whereas these I think apply to any kind of tool.]