Tech Brief 2026-11-04

Anthropic Message Threads Memangkas Pengiriman Ulang Konteks di Messages API

Beta publik baru memungkinkan klien hanya mengirim pesan baru per giliran, dengan klaim penurunan median time-to-first-token 35 persen untuk request sangat panjang.

Anthropic memperkenalkan Message Threads, beta publik untuk Messages API-nya, pada 2 November 2026. Request pertama mengirim seluruh percakapan dengan parameter pembuatan thread; request berikutnya hanya membawa pesan baru plus previous_message_id. Konteks disimpan sementara di memori terenkripsi sisi server, kedaluwarsa lima menit setelah request terakhir, dan ID thread basi mengembalikan 404 sehingga klien harus mengirim ulang konteks penuh.

Anthropic melaporkan median time-to-first-token turun sekitar 35 persen untuk request antara 500 ribu dan 1 juta token, dengan ukuran request median menyusut dari sekitar 800 KB menjadi 1,8 KB. Penggunaan token dan harga tidak berubah, dan fitur ini aktif secara default bagi sebagian besar pengguna Claude Code. Anthropic mencatat fitur ini tidak tersedia bagi pelanggan zero-data-retention dan HIPAA.

Fitur ini mengubah pola integrasi API: klien tidak lagi wajib menahan transkrip lengkap di setiap panggilan, cukup ID thread yang valid.