راهنمای جامع پردازنده های (Intel و AMD) | تشخیص نسل CPU، معنی پسوندها، مقایسه قدرت، انتخاب بهترین پردازنده و کاربرد هر مدل

در این فصل چه چیزهایی یاد می گیریم؟

• Architectural Register و Physical Register چه هستند.
• True Dependency و False Dependency چه تفاوتی دارند.
• RAW چیست.
• WAR چیست.
• WAW چیست.
• Register Renaming چیست.
• Rename Table چه کاری انجام می دهد.
• Physical Register File چیست.
• Reservation Station چیست.
• Operand چیست.
• Issue چیست.
• Dispatch چیست.
• Wakeup چیست.
• Select چیست.
• Reorder Buffer چیست.
• Retirement و Commit چه هستند.
• Precise Exception چیست.
• CPU چگونه بعد از Branch Misprediction بازیابی می شود.
• Out-of-Order Window چیست.
• چرا بزرگ تر بودن پنجره اجرای CPU می تواند مفید باشد.

واژه های جدید این فصل برای واژه نامه نهایی کتاب

• Architectural Register: ثبات تعریف شده در معماری قابل مشاهده نرم افزار.
• Physical Register: ثبات فیزیکی داخلی CPU.
• Compiler: نرم افزار تبدیل کد به شکل مناسب تر برای اجرا یا پردازش بعدی.
• RAW: Read After Write؛ خواندن پس از نوشتن و وابستگی واقعی داده.
• WAR: Write After Read؛ نوشتن پس از خواندن و وابستگی نامی.
• WAW: Write After Write؛ نوشتن پس از نوشتن و وابستگی نامی.
• True Dependency: وابستگی واقعی ناشی از نیاز به داده تولید شده.
• False Dependency: وابستگی کاذب ناشی از اشتراک نام منابع.
• Register Renaming: نام گذاری مجدد ثبات ها با نگاشت نام معماری به منابع فیزیکی.
• Rename Table: ساختار دنبال کننده نگاشت Register معماری به Physical Register.
• PRF: Physical Register File یا فایل ثبات های فیزیکی.
• Operand: عملوند یا داده ورودی یک عملیات.
• Reservation Station: ایستگاه نگهداری عملیات منتظر آماده شدن برای اجرا.
• Wakeup: اعلام آماده شدن داده مورد نیاز یک عملیات.
• Select: انتخاب عملیات آماده برای اجرا.
• Dispatch: ارسال عملیات به ساختارهای موتور اجرای داخلی.
• Issue: فرستادن عملیات آماده به واحد اجرایی مناسب.
• ROB: Reorder Buffer یا بافر مرتب سازی مجدد.
• Retirement: نهایی سازی نتیجه دستور در وضعیت معماری.
• Commit: ثبت نهایی نتیجه معتبر دستور.
• Precise Exception: استثنایی که وضعیت معماری دقیق و قابل بازیابی را حفظ می کند.
• Instructions In Flight: دستورهای وارد شده به Pipeline که هنوز نهایی نشده اند.
• Out-of-Order Window: پنجره عملیات قابل بررسی برای اجرای خارج از ترتیب.
• Latency Hiding: انجام کار مفید دیگر برای پوشاندن بخشی از زمان انتظار.
• Checkpoint: نقطه ذخیره وضعیت لازم برای بازیابی.
• Load: عملیات دریافت داده از حافظه.
• Store: عملیات نوشتن داده در حافظه.

خلاصه فصل

پردازنده Out-of-Order
فقط ترتیب دستورها را جابه جا نمی کند.
پیش از آن باید تشخیص دهد
کدام عملیات واقعاً به یکدیگر وابسته هستند.

RAW یک وابستگی واقعی داده است،
اما WAR و WAW
می توانند فقط به دلیل
استفاده از نام Register مشترک ایجاد شوند.

Register Renaming
با نگاشت نام های معماری
به Physical Registerهای متفاوت
این وابستگی های کاذب را کاهش می دهد.

Architectural Registers
→
Register Renaming
→
Physical Registers
→
Dependency Tracking
→
Scheduling
→
Execution

Reservation Station و Scheduler
منتظر آماده شدن عملیات می مانند،
واحدهای اجرایی کار را انجام می دهند
و ROB کمک می کند
نتایج در زمان مناسب
نهایی شوند.

مهم ترین قانون این فصل:

CPU مدرن فقط دستور بعدی را اجرا نمی کند؛
دائماً میان تعداد زیادی دستور
به دنبال کاری می گردد
که همین حالا قابل انجام باشد.

در این فصل چه چیزهایی یاد می گیریم؟

• Load چیست.
• Store چیست.
• Memory Operand چیست.
• Effective Address چیست.
• Load Queue چیست.
• Store Queue چیست.
• Load/Store Queue چیست.
• Memory Dependency چیست.
• Memory Alias چیست.
• Memory Disambiguation چیست.
• Store-to-Load Forwarding چیست.
• Store Buffer چیست.
• Load Buffer چیست.
• Memory Ordering چیست.
• Memory Model چیست.
• Fence چیست.
• Speculative Load چیست.
• Memory Order Violation چیست.
• Replay چیست.
• چرا حافظه می تواند موتور Out-of-Order را متوقف کند.

• TLB Miss زیاد
• Cache Miss زیاد
• Memory Dependency زیاد
• Store Forwarding ناموفق
• Memory Order Replay
• ظرفیت محدود Load Queue
• ظرفیت محدود Store Queue
• محدودیت Load / Store Port
• Memory Bandwidth ناکافی
• Memory Latency بالا
• Prefetch نامناسب
• Memory-Level Parallelism کم

واژه های جدید این فصل برای واژه نامه نهایی کتاب

• Load: بارگذاری داده از حافظه.
• Store: ذخیره داده در حافظه.
• Memory Operand: عملوندی که در حافظه قرار دارد.
• Effective Address: آدرس موثر محاسبه شده برای یک عملیات حافظه.
• Base Address: آدرس پایه.
• Index: شاخص مورد استفاده در محاسبه آدرس.
• Offset: جابجایی افزوده شده به آدرس.
• AGU: Address Generation Unit یا واحد تولید آدرس.
• Load Queue: صف دنبال کننده Loadهای در حال پردازش.
• Store Queue: صف دنبال کننده Storeهای در حال پردازش.
• LSQ: Load/Store Queue؛ ساختار مدیریت عملیات حافظه.
• Memory Dependency: وابستگی ترتیب میان عملیات حافظه.
• Memory Alias: اشاره چند عملیات به یک محل حافظه.
• Memory Disambiguation: تشخیص مستقل یا وابسته بودن دسترسی های حافظه.
• Speculative Load: اجرای حدسی Load پیش از قطعی شدن نبود وابستگی.
• Memory Dependency Prediction: پیش بینی وابستگی میان Load و Store.
• Memory Order Violation: نقض ترتیب صحیح دسترسی های حافظه.
• Replay: اجرای مجدد عملیات.
• Store-to-Load Forwarding: انتقال مستقیم داده Store به Load.
• Alignment: هم ترازی داده در حافظه.
• Misaligned Access: دسترسی ناهم تراز به حافظه.
• Store Buffer: بافر موقت Storeها.
• Load Buffer: ساختار دنبال کننده Loadها.
• Memory Ordering: قوانین ترتیب مشاهده عملیات حافظه.
• Program Order: ترتیب منطقی دستورها در برنامه.
• Memory Model: مدل تعریف کننده رفتار قابل مشاهده عملیات حافظه.
• Memory Visibility: زمان و نحوه قابل مشاهده شدن تغییرات حافظه برای Threadهای دیگر.
• Memory Fence: مانع ترتیب حافظه.
• Memory Barrier: سازوکار محدود کردن جابه جایی عملیات حافظه.
• Flag: متغیر یا مقدار نشان دهنده وضعیت.
• Synchronization: همگام سازی Threadها یا عملیات همزمان.
• Atomic Operation: عملیات تجزیه ناپذیر از دید سایر Threadها.
• MLP: Memory-Level Parallelism یا موازی سازی در سطح حافظه.
• Outstanding Memory Request: درخواست حافظه ای که پاسخ آن هنوز کامل نشده است.
• MSHR: ساختار نگهداری وضعیت Cache Missهای در حال انتظار.
• Non-Blocking Cache: Cacheای که هنگام وجود Miss می تواند درخواست های دیگری را نیز پردازش کند.
• Hit Under Miss: پاسخ به Cache Hit در زمان انتظار یک Miss.
• Miss Under Miss: مدیریت چند Cache Miss همزمان.
• Memory Wall: شکاف میان سرعت پردازنده و سرعت دسترسی به حافظه.
• Load Port: مسیر اجرایی مرتبط با Load.
• Store Port: مسیر اجرایی مرتبط با Store.
• Port Pressure: فشار ناشی از رقابت عملیات برای یک منبع اجرایی محدود.
• Memory Stall: توقف یا محدودیت ناشی از آماده نبودن داده یا منابع حافظه.

خلاصه فصل

عملیات حافظه
یکی از پیچیده ترین بخش های
اجرای Out-of-Order هستند.

CPU باید ابتدا
آدرس را محاسبه کند،
سپس بررسی کند
آیا Load یا Store
به عملیات قدیمی تری وابسته است یا نه.

Load / Store
→
Address Generation
→
Memory Dependency Check
→
TLB
→
Cache
→
Memory System

Memory Disambiguation
تلاش می کند
Loadهای مستقل را
زودتر اجرا کند.

Store-to-Load Forwarding
می تواند داده را
مستقیماً از Store قدیمی تر
به Load وابسته بدهد.

MLP و Non-Blocking Cache
نیز کمک می کنند
چند درخواست حافظه
همزمان در حال انجام باشند.

مهم ترین قانون این فصل:

CPU مدرن فقط داده را از حافظه نمی خواند؛
دائماً پیش بینی می کند، وابستگی ها را بررسی می کند،
درخواست ها را موازی می کند
و تلاش می کند Latency حافظه را پنهان کند.

در این فصل چه چیزهایی یاد می گیریم؟

• Execution Unit چیست.
• ALU چیست و چه عملیاتی انجام می دهد.
• Integer Operation چیست.
• FPU چیست.
• Floating-Point Number چیست.
• SIMD چیست.
• Scalar و Vector چه تفاوتی دارند.
• Vector Unit چیست.
• Vector Width چیست.
• SSE چیست.
• AVX چیست.
• AVX2 چیست.
• AVX-512 چیست.
• NEON چیست.
• FMA چیست.
• Throughput و Latency در واحدهای اجرایی چه معنایی دارند.
• Execution Port چیست.
• Port Pressure چیست.
• چرا پشتیبانی CPU از یک Instruction Set به تنهایی تضمین کننده سرعت بالا نیست.

• پردازش تصویر و فیلترهای تصویری
• تبدیل و پردازش ویدئو
• پردازش صوت
• فشرده سازی و Decompression
• رمزنگاری و Hashing در الگوریتم های مناسب
• محاسبات علمی
• شبیه سازی های عددی
• پردازش سیگنال
• برخی محاسبات هوش مصنوعی
• محاسبات سه بعدی و هندسی
• برخی عملیات CAD و مهندسی
• تحلیل داده
• کتابخانه های ریاضی

واژه های جدید این فصل برای واژه نامه نهایی کتاب

• Execution Unit: واحد اجرایی؛ سخت افزار انجام دهنده عملیات.
• ALU: Arithmetic Logic Unit؛ واحد حساب و منطق.
• Integer: عدد صحیح.
• Integer Operation: عملیات روی اعداد صحیح.
• Logical Operation: عملیات منطقی روی بیت ها یا مقادیر منطقی.
• FPU: Floating-Point Unit؛ واحد محاسبات ممیز شناور.
• Floating Point: روش نمایش و محاسبه اعداد حقیقی در کامپیوتر.
• Scalar: مقدار منفرد یا پردازش تک مقداری.
• Vector: مجموعه ای از عناصر داده برای پردازش گروهی.
• SIMD: Single Instruction Multiple Data؛ یک دستور برای چند داده.
• Vector Unit: واحد اجرای عملیات برداری.
• Vector Width: پهنای داده قابل پوشش توسط عملیات برداری.
• SSE: Streaming SIMD Extensions؛ خانواده ای از توسعه های SIMD در x86.
• AVX: Advanced Vector Extensions؛ توسعه های برداری پیشرفته.
• AVX2: نسل توسعه یافته قابلیت های AVX.
• AVX-512: خانواده ای از توسعه های برداری x86 با قابلیت های برداری پیشرفته.
• NEON: فناوری SIMD در معماری Arm.
• ISA: Instruction Set Architecture؛ معماری مجموعه دستورها.
• Microarchitecture: ریزمعماری؛ نحوه پیاده سازی داخلی ISA.
• FMA: Fused Multiply-Add؛ ضرب و جمع ترکیبی.
• Latency: تاخیر تا آماده شدن نتیجه.
• Throughput: نرخ عبور یا میزان عملیات قابل پردازش.
• Dependency Chain: زنجیره ای از عملیات وابسته به نتیجه یکدیگر.
• Execution Port: مسیر دسترسی عملیات به واحدهای اجرایی.
• Port Pressure: فشار ناشی از رقابت عملیات برای مسیر اجرایی محدود.
• Bottleneck: گلوگاه؛ بخشی که Performance کل سیستم را محدود می کند.
• Vectorization: برداری سازی محاسبات برای استفاده از SIMD.
• Auto-Vectorization: برداری سازی خودکار توسط Compiler.
• Workload: بار کاری یا مجموعه کاری که سیستم اجرا می کند.
• Decompression: بازکردن داده فشرده.
• Hash: درهم سازی داده توسط یک تابع مشخص.

خلاصه فصل

Execution Unitها
محل انجام واقعی بسیاری از محاسبات CPU هستند.

ALU برای بسیاری از عملیات
عدد صحیح و منطقی استفاده می شود،
در حالی که FPU و واحدهای برداری
نقش مهمی در محاسبات عددی
و Floating Point دارند.

SIMD اجازه می دهد
یک دستور
چند عنصر داده را پردازش کند.

Scalar
→
One / Few Data Elements

SIMD
→
Multiple Data Elements
→
One Instruction

SSE، AVX، AVX2، AVX-512 و NEON
نمونه هایی از فناوری ها
و مجموعه قابلیت های مرتبط
با پردازش SIMD هستند.

اما وجود یک قابلیت در ISA
به تنهایی Performance را تعیین نمی کند.

ریزمعماری،
تعداد واحدهای اجرایی،
پهنای آنها،
Throughput،
Latency،
Cache،
Memory Bandwidth،
فرکانس
و نوع Workload
همگی اهمیت دارند.

مهم ترین قانون این فصل:

نام یک دستور یا پهنای یک Vector
به تنهایی سرعت CPU را مشخص نمی کند؛
Performance واقعی حاصل همکاری
نرم افزار، ISA، ریزمعماری،
واحدهای اجرایی و سیستم حافظه است.

در این فصل چه چیزهایی یاد می گیریم؟

• Thread چیست.
• Hardware Thread چیست.
• Physical Core چیست.
• Logical Processor چیست.
• SMT چیست.
• Hyper-Threading چیست.
• SMT2 و SMT4 یعنی چه.
• چرا یک Core می تواند چند Thread را دنبال کند.
• کدام منابع ممکن است بین Threadها مشترک باشند.
• Resource Sharing چیست.
• Resource Contention چیست.
• چرا SMT دو برابر شدن Performance نیست.
• SMT چه زمانی مفید است.
• چه زمانی سود SMT کم می شود.
• SMT چه ارتباطی با Cache و Memory Stall دارد.
• SMT با Multi-Core چه تفاوتی دارد.
• سیستم عامل چگونه Logical Processorها را می بیند.
• Thread Scheduling چیست.

میزان سود دقیق
به CPU و نرم افزار بستگی دارد،
اما SMT می تواند
در Workloadهایی که
تعداد Thread کافی دارند
مفید باشد؛ مانند:

• رندر CPU در نرم افزارهای چند رشته ای،
• کامپایل پروژه های بزرگ،
• برخی Workloadهای سرور،
• ماشین های مجازی،
• برخی عملیات فشرده سازی،
• پردازش داده،
• برخی شبیه سازی ها،
• اجرای همزمان چند برنامه سنگین،
• برخی Workloadهای تولید محتوا.

واژه های جدید این فصل برای واژه نامه نهایی کتاب

• Thread: رشته اجرایی؛ یک جریان اجرای دستور.
• Process: فرایند؛ نمونه در حال اجرای یک برنامه.
• Context: وضعیت و اطلاعات لازم برای دنبال کردن یک جریان اجرا.
• Hardware Thread: رشته سخت افزاری قابل دنبال کردن توسط CPU.
• Physical Core: هسته فیزیکی واقعی پردازنده.
• Logical Processor: پردازنده منطقی قابل مشاهده برای سیستم عامل.
• SMT: Simultaneous Multithreading؛ چند رشته ای همزمان.
• Hyper-Threading: نام تجاری Intel برای فناوری SMT.
• SMT2: پشتیبانی دو Hardware Thread توسط هر Core.
• SMT4: پشتیبانی چهار Hardware Thread توسط هر Core.
• Resource Sharing: اشتراک منابع.
• Resource Contention: رقابت بر سر منابع محدود.
• Utilization: میزان استفاده از ظرفیت یک منبع.
• Scheduler: زمان بند سیستم عامل.
• Thread Scheduling: زمان بندی رشته های اجرایی.
• Cache Locality: محلی بودن داده مورد نیاز در Cache نزدیک.
• Thread Migration: انتقال اجرای Thread میان منابع پردازشی.
• Working Set: مجموعه داده و دستورهای فعال برنامه.
• Cache Thrashing: جایگزینی شدید داده و افزایش Cache Miss.
• ILP: Instruction-Level Parallelism؛ موازی سازی سطح دستور.
• TLP: Thread-Level Parallelism؛ موازی سازی سطح رشته.
• Data-Level Parallelism: موازی سازی در سطح داده.
• Scalability: مقیاس پذیری با افزایش منابع پردازشی.
• Lock: قفل برای کنترل دسترسی همزمان به منبع مشترک.
• Context Switch: تعویض زمینه اجرایی.
• Virtual Machine: ماشین مجازی.
• Side-Channel: کانال جانبی.
• Benchmark: آزمون سنجش عملکرد.
• Compute Heavy: بار کاری با تمرکز زیاد بر محاسبات.
• Memory Heavy: بار کاری با وابستگی زیاد به حافظه.

خلاصه فصل

SMT یک Core فیزیکی جدید
ایجاد نمی کند.

هدف آن
استفاده بهتر از منابع
Core موجود است.

One Physical Core
→
Multiple Hardware Threads
→
Shared Execution Resources

اگر Thread اول
نتواند تمام ظرفیت Core
را استفاده کند،
Thread دوم ممکن است
بخشی از ظرفیت آزاد را
به کار بگیرد.

اما اگر هر دو Thread
به منابع مشابه نیاز داشته باشند،
Resource Contention
می تواند سود SMT را کاهش دهد.

بنابراین:

More Threads
≠
Proportionally More Performance

مهم ترین قانون این فصل:

Thread بیشتر به معنی Core بیشتر نیست؛
SMT روشی برای استفاده بهتر
از منابع هسته فیزیکی موجود است،
نه جایگزینی کامل برای هسته های فیزیکی بیشتر.