Same bits.
Every device.Cùng từng bit.
Trên mọi thiết bị.
Idemcore is an integer-only inference kernel for transformer models. The same model and input give the identical result, bit for bit, on x86 CPUs, NVIDIA GPUs and Android phones. Every token is logged with a hash, so anyone can re-run a result on their own hardware and check it.Idemcore là kernel suy luận thuần số nguyên cho các model transformer. Cùng một model và đầu vào cho ra kết quả giống hệt nhau từng bit trên CPU x86, GPU NVIDIA và điện thoại Android. Mỗi token đều được ghi kèm hash, nên ai cũng có thể chạy lại trên phần cứng của mình để kiểm chứng.
8d694e5c…3851cc8d694e5c…3851cc8d694e5c…3851ccQwen2.5-7B int4, ALL digestQwen2.5-7B int4, digest ALL
Bit-exact across devicesKhớp từng bit giữa các thiết bị
Every logit and every sampling step, not just the chosen token.Mọi logit và mọi bước lấy mẫu, không chỉ token được chọn.
Steady timingThời gian ổn định
4-bit Qwen2.5-7B on an A10: p50 10.77 ms and p99 10.87 ms per token, with hashing on.Qwen2.5-7B 4 bit trên A10: p50 10,77 ms và p99 10,87 ms mỗi token, khi bật hash.
No speed penaltyKhông phải đánh đổi tốc độ
4-bit Qwen2.5-7B on an NVIDIA A10: 92.98 tok/s with hashing on, vs 90.30 for llama.cpp Q4_K_M and 87.99 for vLLM AWQ.Qwen2.5-7B 4 bit trên NVIDIA A10: 92,98 token/giây khi bật hash, so với 90,30 của llama.cpp Q4_K_M và 87,99 của vLLM AWQ.
Verified resultsKết quả đã kiểm chứng
Every pair below was decoded on both devices and compared hash by hash. All matched, e.g. Qwen2.5-7B 8-bit: 512/512 positions identical between an x86 CPU and an NVIDIA A10.Mỗi cặp dưới đây được chạy trên cả hai thiết bị và so từng hash. Tất cả đều khớp, ví dụ Qwen2.5-7B 8 bit: 512/512 vị trí giống hệt giữa CPU x86 và NVIDIA A10.
| ModelModel | Matched x86-64 onKhớp x86-64 trên | PositionsSố vị trí | ResultKết quả |
|---|---|---|---|
| Qwen2.5-0.5B 8-bit | NVIDIA T4 | 3260 | ✓ identicalkhớp |
| Qwen2.5-0.5B 8-bit | Windows 11 ARM64 (Snapdragon X) | 3260 | ✓ identicalkhớp |
| Qwen2.5-0.5B 8-bit | Android phone (Galaxy Z Fold5) | 3260 | ✓ identicalkhớp |
| Qwen2.5-7B 8-bit | NVIDIA A10 | 512 | ✓ identicalkhớp |
| Qwen2.5-7B 8-bit | Android phone (Galaxy Z Fold5) | 64 | ✓ identicalkhớp |
| Qwen2.5-7B 4-bit (g) | NVIDIA A10 | 512 | ✓ identicalkhớp |
| Qwen2.5-7B 4-bit (g4) | NVIDIA A10G | 512 | ✓ identicalkhớp |
| Qwen2.5-7B 4-bit (g) | Android phone (Galaxy Z Fold5) | 128 | ✓ identicalkhớp |
| gpt-oss-20b (MoE) | NVIDIA L40S | 512 | ✓ identicalkhớp |
| gpt-oss-120b (MoE) | NVIDIA H100 | 128 of 512 | ✓ identicalkhớp |
gpt-oss-120b: spot check of 128 of 512 positions against the x86 CPU. 7B 8-bit on the phone: 64-position prefix.gpt-oss-120b: kiểm tra 128 trên 512 vị trí so với CPU x86. 7B 8 bit trên điện thoại: 64 vị trí đầu.
Speed, single stream (Qwen2.5-7B-Instruct)Tốc độ, một luồng (Qwen2.5-7B-Instruct)
| GPU | EngineEngine | tok/s | p50 ms | p99 ms |
|---|---|---|---|---|
| A10 | Idemcore 4-bit (g), hashing onbật hash | 92.98 | 10.77 | 10.87 |
| A10 | llama.cpp Q4_K_M | 90.30 | 11.09 | 11.83 |
| A10 | vLLM AWQ | 87.99 | 11.30 | 12.16 |
| A10 | llama.cpp Q8_0 | 58.52 | 17.11 | 17.90 |
| A10 | Idemcore 8-bit, hashing onbật hash | 56.95 | 17.56 | 18.07 |
| A10 | vLLM fp16 | 30.44 | 32.80 | 33.60 |
| A10G | Idemcore 4-bit (g4), hashing onbật hash | 98.64 | 10.15 | 10.27 |
| A10G | llama.cpp Q4_K_M | 92.37 | 10.75 | 13.12 |
Batch 1 decode on rented cloud GPUs. On the A10, Idemcore ran in a separate session from the baselines. A10 and A10G are different cloud SKUs, so compare within each GPU. Cloud GPU clocks vary between sessions. MoE: gpt-oss-20b at 72.1–72.2 tok/s on an L40S, gpt-oss-120b at 37.1–37.3 tok/s on an H100.Giải mã batch 1 trên GPU thuê. Trên A10, Idemcore chạy ở phiên khác với các engine so sánh. A10 và A10G là hai loại máy khác nhau, chỉ so trong cùng một GPU. Xung nhịp GPU đám mây thay đổi giữa các phiên. MoE: gpt-oss-20b đạt 72,1–72,2 token/giây trên L40S, gpt-oss-120b đạt 37,1–37,3 token/giây trên H100.
Quality (perplexity vs the reference model)Chất lượng (perplexity so với model tham chiếu)
| BuildBản | Perplexity gapChênh lệch perplexity | Top-1 agreementTrùng token top-1 |
|---|---|---|
| Idemcore 7B 8-bit | −0.11% | 98.0% |
| Idemcore 7B 4-bit (g) | +0.60% | 95.5% |
| Idemcore 7B 4-bit (g4) | +2.11% | 89.5% |
| llama.cpp Q4_K_M (7B) | +3.92% | 91.0% |
| Idemcore gpt-oss-20b vs HF MXFP4so với HF MXFP4 | +1.37% | 94.3% |
| Idemcore gpt-oss-120b vs HF MXFP4so với HF MXFP4 | +6.23% | 93.4% |
512-position WikiText-2 slice; gaps under about 1% should not be over-read. 7B reference: the bf16 checkpoint computed in fp32. The gpt-oss-120b gap is the main quality item we are working on.Đoạn WikiText-2 dài 512 vị trí; chênh dưới khoảng 1% không nên diễn giải quá mức. Tham chiếu 7B: checkpoint bf16 tính bằng fp32. Chênh lệch của gpt-oss-120b là hạng mục chất lượng chính chúng tôi đang cải thiện.
Technical paperBài báo kỹ thuật
Method, every measurement and its limits. Link will appear here when published.Phương pháp, toàn bộ số đo và giới hạn. Link sẽ có ở đây khi công bố.
Open verifier (Apache-2.0)Công cụ kiểm chứng mở (Apache-2.0)
Log spec, sample logs and the checker, on GitHub. Link will appear here when published.Đặc tả log, log mẫu và công cụ kiểm tra trên GitHub. Link sẽ có ở đây khi công bố.
What you can start with todayCó thể bắt đầu ngay
Free VerifierFree Verifier
Re-run a logged inference and check it token by token. For customers, auditors, referees and validators.Chạy lại một lượt suy luận đã ghi log và kiểm tra từng token. Dành cho khách hàng, kiểm toán, trọng tài và bên xác thực.
Simulation & ReplaySimulation & Replay
AI steps inside simulations replay identically, years later, on any machine. For autonomy simulation, AI audit and research labs.Các bước AI trong mô phỏng phát lại y hệt, nhiều năm sau, trên bất kỳ máy nào. Dành cho mô phỏng tự hành, kiểm toán AI và phòng nghiên cứu.
Game & Esports IntegrityGame & Esports Integrity
Deterministic AI with a per-tick hash, server spot-check replay and evidence logs for match disputes.AI tất định với hash theo từng tick, phát lại kiểm tra trên server và log làm bằng chứng khi tranh chấp trận đấu.
Coming soonSắp ra mắt
Verifiable Compute NetworksMạng tính toán kiểm chứng được
Results that independent nodes can cross-check by comparing hashes.Kết quả để các node độc lập đối chiếu bằng cách so hash.
Coming soonSắp ra mắtMobile / On-device SDKSDK di động / trên thiết bị
Deterministic inference packaged for apps on phones and edge devices.Suy luận tất định đóng gói cho ứng dụng trên điện thoại và thiết bị biên.
Coming soonSắp ra mắtRobotics, Autonomy & AeroRobot, tự hành & hàng không
Replayable AI decisions for testing and incident review.Quyết định AI phát lại được cho kiểm thử và điều tra sự cố.
Coming soonSắp ra mắtChip Health & EnergySức khỏe chip & năng lượng
Exploring reproducible runs as a reference for hardware checks.Nghiên cứu dùng lần chạy tái lập làm mốc tham chiếu khi kiểm tra phần cứng.
Coming soonSắp ra mắtThe kernel is licensed per customer and stays closed; the verifier is open, so you never have to trust us to check a result.Kernel được cấp phép theo từng khách hàng và giữ kín; công cụ kiểm chứng là mã mở, nên bạn không cần tin chúng tôi mới kiểm được kết quả.
Questions we getCâu hỏi thường gặp
What is bit-exact, and why do I need it?Bit-exact là gì, và tại sao tôi cần nó?
The same model and input give identical output bits on every supported device: every logit and the sampling distribution match, not just the final text. That makes results auditable, replays exact, and disputes settled by comparing hashes.Cùng một model và đầu vào cho ra kết quả giống hệt từng bit trên mọi thiết bị được hỗ trợ: mọi logit và phân phối lấy mẫu đều khớp, không chỉ văn bản cuối. Nhờ vậy kết quả kiểm toán được, phát lại chính xác, và tranh chấp được giải quyết bằng cách so hash.
Is quality worse than the original model?Chất lượng có kém hơn model gốc không?
Barely, on our 512-position WikiText-2 slice, against the bf16 reference. Qwen2.5-7B 4-bit (g): perplexity +0.60%, top-1 agreement 95.5% (llama.cpp Q4_K_M: +3.92%, 91.0%). 8-bit: −0.11%, top-1 98.0%. gpt-oss-20b: +1.37% against HF MXFP4; gpt-oss-120b: +6.23%, which we are working on.Rất ít, trên đoạn WikiText-2 dài 512 vị trí, so với bản tham chiếu bf16. Qwen2.5-7B 4 bit (g): perplexity +0,60%, trùng top-1 95,5% (llama.cpp Q4_K_M: +3,92%, 91,0%). 8 bit: −0,11%, top-1 98,0%. gpt-oss-20b: +1,37% so với HF MXFP4; gpt-oss-120b: +6,23%, đang được cải thiện.
Which models are supported?Hỗ trợ những model nào?
Qwen2.5-0.5B, Qwen2.5-7B (8-bit and 4-bit), gpt-oss-20b and gpt-oss-120b. Other models on request, as part of a pilot.Qwen2.5-0.5B, Qwen2.5-7B (8 bit và 4 bit), gpt-oss-20b và gpt-oss-120b. Model khác theo yêu cầu, trong chương trình thí điểm.
Which hardware does it run on?Chạy trên phần cứng nào?
x86-64 CPUs; ARM CPUs, including an Android phone (Galaxy Z Fold5) and a Windows laptop (Snapdragon X); NVIDIA GPUs T4, A10, A10G, L40S and H100. AMD and Apple GPUs are not supported yet.CPU x86-64; CPU ARM, gồm điện thoại Android (Galaxy Z Fold5) và laptop Windows (Snapdragon X); GPU NVIDIA T4, A10, A10G, L40S và H100. GPU AMD và Apple chưa được hỗ trợ.
Is it faster than 4-bit engines?Có nhanh hơn các engine 4 bit không?
About the same. On an A10, 4-bit Idemcore with hashing on decoded 92.98 tok/s, against 90.30 for llama.cpp Q4_K_M and 87.99 for vLLM AWQ (separate sessions, batch 1). Cloud GPU clocks vary, so we read this as parity, not a win.Ngang nhau. Trên A10, Idemcore 4 bit bật hash đạt 92,98 token/giây, so với 90,30 của llama.cpp Q4_K_M và 87,99 của vLLM AWQ (khác phiên, batch 1). Xung nhịp GPU đám mây dao động, nên chúng tôi coi đây là ngang bằng, không phải thắng.
Does it run on a phone?Có chạy trên điện thoại không?
Yes. 4-bit Qwen2.5-7B on a Galaxy Z Fold5 matched the x86 CPU on all 128 positions at 3.39 tok/s, about 2.49 J/token (battery-gauge estimate, not a power meter).Có. Qwen2.5-7B 4 bit trên Galaxy Z Fold5 khớp CPU x86 ở cả 128 vị trí, tốc độ 3,39 token/giây, khoảng 2,49 J/token (ước tính từ cảm biến pin, không phải máy đo công suất).
Is my data sent to your servers?Dữ liệu của tôi có bị gửi về máy chủ của các bạn không?
No. Inference runs on your own hardware; prompts and outputs stay on your machine.Không. Suy luận chạy trên phần cứng của bạn; prompt và kết quả nằm lại trên máy của bạn.
Is it open source?Có phải mã nguồn mở không?
The verifier and the log format are open source (Apache-2.0). The inference engine is closed and licensed.Công cụ kiểm chứng và định dạng log là mã nguồn mở (Apache-2.0). Engine suy luận là mã đóng và được cấp phép.
Do I have to trust Idemcore?Tôi có phải tin Idemcore không?
No. The verifier is open; anyone can re-run a result on their own hardware and compare hashes.Không. Công cụ kiểm chứng là mã mở; ai cũng có thể chạy lại kết quả trên phần cứng của mình và so hash.
Does it replace an anti-cheat?Có thay thế anti-cheat không?
No. It proves a simulation was not altered and makes replays exact. It does not detect wallhacks or aimbots, which do not change game state.Không. Nó chứng minh mô phỏng không bị sửa và giúp phát lại chính xác. Nó không phát hiện wallhack hay aimbot, vốn không thay đổi trạng thái game.
Why are four products marked coming soon?Vì sao bốn sản phẩm ghi “sắp ra mắt”?
Each one opens only after its own measurements are done, so every claim on this page is backed by a number.Mỗi sản phẩm chỉ mở khi đã đo xong phần của nó, để mọi khẳng định trên trang này đều có số liệu đi kèm.
Can I buy online?Có mua trực tuyến được không?
No. Every license starts with a pilot and a written agreement.Không. Mọi giấy phép đều bắt đầu bằng thí điểm và thỏa thuận bằng văn bản.
Run Idemcore on your own hardwareChạy Idemcore trên phần cứng của bạn
Leave your work email. We will reply personally about a pilot.Để lại email công việc. Chúng tôi sẽ trả lời trực tiếp về chương trình thí điểm.