راهنمای جامع پردازنده های (Intel و AMD) | تشخیص نسل CPU، معنی پسوندها، مقایسه قدرت، انتخاب بهترین پردازنده و کاربرد هر مدل

Virtualization چیست؟

به جای اینکه
یک Operating System
تمام Hardware
را به صورت انحصاری
استفاده کند،
منابع می توانند
بین چند Environment
تقسیم شوند.

برای مثال
یک Server فیزیکی
می تواند همزمان
چند VM
را اجرا کند.

Virtual Machine یا VM چیست؟

Virtual Machine
یک محیط محاسباتی
ایزوله شده است
که از دید Software
شبیه یک Computer
مستقل رفتار می کند.

VM معمولاً دارای:

• Virtual CPU یا vCPU،
• Virtual Memory،
• Virtual Storage،
• Virtual Network Adapter،
• و سایر Virtual Deviceها

است.

Host و Guest چه هستند؟

در Virtualization
معمولاً دو اصطلاح
مهم وجود دارد.

Host
سیستم یا محیطی است
که منابع فیزیکی
را فراهم می کند.

Guest
Operating System
یا Environmentی است
که داخل VM
اجرا می شود.

Host
→
Hypervisor
→
Guest VM

Hypervisor چیست؟

Hypervisor
باید منابعی مانند:

• CPU Time،
• Memory،
• Interruptها،
• Storage،
• Network،
• و Device Access

را بین VMها
مدیریت کند.

Type 1 Hypervisor چیست؟

Type 1 Hypervisor
مستقیماً روی
Hardware
یا در سطح بسیار نزدیک
به Hardware
اجرا می شود.

Hardware
↓
Hypervisor
↓
Virtual Machines

این معماری
معمولاً در:

• Serverها،
• Data Centerها،
• Cloud Infrastructure،
• و محیط های Enterprise

اهمیت زیادی دارد.

Type 2 Hypervisor چیست؟

Type 2 Hypervisor
روی یک Operating System
میزبان اجرا می شود.

Hardware
↓
Host Operating System
↓
Virtualization Software
↓
Guest VM

این مدل
برای:

• آموزش،
• Development،
• Software Testing،
• اجرای سیستم عامل دوم،
• و Labهای شخصی

بسیار رایج است.

vCPU چیست؟

Virtual CPU
یا vCPU
CPU منطقی
ارائه شده
به Virtual Machine
است.

اگر به یک VM
چهار vCPU
اختصاص داده شود،
Guest OS
معمولاً چهار
Logical Processor
قابل استفاده
مشاهده می کند.

اما:

1 vCPU
≠
Necessarily 1 Dedicated Physical Core

Hypervisor
می تواند vCPUها
را روی Logical CPUهای
فیزیکی Schedule کند.

Hypervisor چگونه CPU را بین VMها تقسیم می کند؟

هر VM
ممکن است چند vCPU
داشته باشد.

Hypervisor Scheduler
تصمیم می گیرد
هر vCPU
چه زمانی
روی یک Physical Logical Processor
اجرا شود.

VM vCPU
→
Hypervisor Scheduler
→
Physical Logical CPU

این فرایند
از نظر مفهومی
شبیه Scheduling Threadها
توسط Operating System است،
اما یک لایه
Virtualization نیز
به آن اضافه شده است.

CPU Overcommit چیست؟

Hypervisor
می تواند مجموع vCPUهای
تعریف شده برای VMها
را بیشتر از تعداد
Logical CPUهای فیزیکی
در نظر بگیرد.

برای مثال:

Physical Logical CPUs = 16

Total Allocated vCPUs = 32

این وضعیت
الزاماً مشکل نیست،
اگر تمام VMها
همزمان CPU
زیادی درخواست نکنند.

اما Overcommit شدید
زیر Load همزمان
می تواند باعث:

• CPU Contention،
• Latency بیشتر،
• و کاهش Performance VMها

شود.

Privilege Level چیست؟

همه Softwareها
نباید اجازه داشته باشند
هر Instruction
یا Hardware Resource
را مستقیماً کنترل کنند.

CPU Architecture
سطوح دسترسی
یا Privilege Level
تعریف می کند.

Code با Privilege بالا
می تواند عملیات
حساس تری انجام دهد.

Ring 0 و Ring 3 چیست؟

در معماری x86
مفهوم Ring
برای Privilege Level
استفاده می شود.

در مدل رایج:

Ring 0
=
High Privilege

Ring 3
=
User Applications

Operating System Kernel
معمولاً در سطح
Privilege بالاتر
از Applicationهای عادی
اجرا می شود.

چرا اجرای Guest OS از نظر Privilege دشوار است؟

Guest Operating System
تصور می کند
Kernel آن
بالاترین سطح کنترل
را دارد.

اما در سیستم Virtualized،
Hypervisor
باید کنترل نهایی
Hardware
را حفظ کند.

Guest Thinks:
“I Control The Machine”

Hypervisor Must Ensure:
“You Control Only Your Virtual Machine”

حل کارآمد این مسئله
یکی از اهداف اصلی
Hardware-Assisted Virtualization
است.

Hardware-Assisted Virtualization چیست؟

CPUهای مدرن
Extensionهایی دارند
که اجرای Hypervisor
و Guest OS
را ساده تر
و کارآمدتر می کنند.

دو نام شناخته شده:

• Intel VT-x،
• AMD-V.

این فناوری ها
امکانات Architecture-Level
برای Virtualization
فراهم می کنند.

Intel VT-x چیست؟

Intel VT-x
مجموعه قابلیت های
Hardware Virtualization
در پردازنده های
پشتیبانی شده Intel است.

این قابلیت
به Hypervisor
اجازه می دهد
Guest OS
را با کمک
Mechanismهای سخت افزاری
کنترل کند.

AMD-V چیست؟

AMD-V
مجموعه قابلیت های
Virtualization
در پردازنده های
پشتیبانی شده AMD است.

هدف کلی
مشابه است:

فراهم کردن
Hardware Support
برای اجرای کارآمد
Virtual Machineها
و Hypervisor.

چرا گاهی Virtualization باید در BIOS یا UEFI فعال شود؟

ممکن است CPU
از Virtualization
پشتیبانی کند،
اما قابلیت مربوطه
در Firmware
غیرفعال باشد.

بسته به سیستم
گزینه هایی مانند:

• Intel Virtualization Technology،
• VT-x،
• SVM Mode،
• AMD-V

ممکن است
در BIOS یا UEFI
دیده شوند.

نام دقیق گزینه
به Manufacturer
و Firmware
بستگی دارد.

VM Entry و VM Exit چیست؟

هنگام اجرای
Virtual Machine،
CPU می تواند
بین Context مربوط
به Hypervisor
و Guest
جابه جا شود.

ورود به اجرای Guest
معمولاً با مفهوم:

VM Entry

و بازگشت کنترل
از Guest
به Hypervisor
با:

VM Exit

توصیف می شود.

چرا VM Exit رخ می دهد؟

بعضی Eventها
یا عملیات Guest
نیازمند دخالت
Hypervisor هستند.

بسته به Configuration
این موارد می توانند
شامل:

• بعضی Privileged Operationها،
• بعضی Interruptها،
• بعضی I/O Operationها،
• Access به Resourceهای کنترل شده،
• و Eventهای مشخص شده توسط Hypervisor

باشند.

Guest Running
→
Intercepted Event
→
VM Exit
→
Hypervisor

Trap در Virtualization چیست؟

Trap
به انتقال کنترل
در نتیجه
یک Event
یا Instruction خاص
اشاره می کند.

Hypervisor
می تواند برخی عملیات
Guest
را Intercept کند
و رفتار مناسب
را برای Virtual Machine
ایجاد کند.

چرا VM Exit می تواند Performance را کاهش دهد؟

VM Exit
رایگان نیست.

CPU باید
اجرای Guest
را متوقف کند،
State لازم
را مدیریت کند
و کنترل را
به Hypervisor
منتقل کند.

سپس برای ادامه Guest
دوباره VM Entry
انجام می شود.

Too Many VM Exits
→
More Virtualization Overhead

به همین دلیل
Hardware و Hypervisorهای مدرن
تلاش می کنند
عملیات رایج Guest
تا حد ممکن
بدون Exit غیرضروری
اجرا شوند.

Virtualization حافظه چرا پیچیده است؟

Guest OS
تصور می کند
Page Tableهای خودش
Memory را مدیریت می کنند.

اما Hypervisor
نیز باید مشخص کند
Memory مجازی Guest
در نهایت
به کدام Physical Memory
واقعی Host
متصل شود.

در نتیجه
چند سطح
Address Translation
وجود دارد.

Second-Level Address Translation چیست؟

CPUهای مدرن
قابلیت هایی دارند
که Translation
حافظه VM
را با کمک Hardware
انجام دهند.

این فناوری
به صورت کلی:

Second-Level Address Translation
=
SLAT

نامیده می شود.

دو نام رایج
در Platformهای x86:

• Intel EPT،
• AMD NPT.

Intel EPT چیست؟

EPT
مخفف:

Extended Page Tables

است.

EPT
Hardware Support
برای Translation
میان Address Space
مربوط به Guest
و Physical Memory
واقعی فراهم می کند.

AMD NPT چیست؟

NPT
معمولاً به:

Nested Page Tables

اشاره دارد.

هدف آن
Hardware-Assisted Translation
برای Memory Virtualization
در Platformهای AMD است.

آدرس حافظه در VM چگونه ترجمه می شود؟

به صورت ساده شده:

Guest Virtual Address
↓
Guest Physical Address
↓
Host Physical Address

Hardware Support
مانند EPT یا NPT
کمک می کند
این Translation
بسیار کارآمدتر
از روش های کاملاً
Software-Based
انجام شود.

TLB در Virtualization چه اهمیتی دارد؟

Address Translation
چندمرحله ای
می تواند هزینه
زیادی داشته باشد.

TLB
Translationهای اخیر
را Cache می کند
تا CPU مجبور نباشد
برای هر Memory Access
تمام مراحل Page Walk
را دوباره انجام دهد.

بنابراین TLB
در Performance
Virtualized Workloadها
اهمیت زیادی دارد.

Nested Virtualization چیست؟

Nested Virtualization
یعنی اجرای Hypervisor
داخل یک Virtual Machine.

ساختار مفهومی:

Physical Hardware
↓
Hypervisor L0
↓
VM / Hypervisor L1
↓
Nested VM L2

این قابلیت
در:

• Cloud Lab،
• Training،
• Hypervisor Development،
• CI/CD،
• و Test Environmentها

کاربرد دارد.

Virtualization و Emulation چه تفاوتی دارند؟

این دو مفهوم
یکسان نیستند.

در Virtualization،
Guest معمولاً
از Architecture
سازگار با Host
استفاده می کند
و بخش زیادی
از Instructionها
می توانند روی CPU واقعی
اجرا شوند.

در Emulation،
ممکن است Architecture
متفاوتی
شبیه سازی شود.

برای مثال:

x86 Host
→
Emulated ARM Machine

در این حالت
Instruction Translation
یا Simulation
بیشتری لازم است.

Virtual Machine و Container چه تفاوتی دارند؟

VM
معمولاً Guest OS
مستقل خود را دارد.

Containerها
معمولاً Kernel
سیستم میزبان
را به اشتراک می گذارند
و Isolation
در سطح دیگری
انجام می شود.

VM:
Virtual Hardware
+
Guest OS
+
Applications

Container:
Shared Kernel
+
Isolated User Space

بنابراین Containerization
و Hardware Virtualization
مفاهیم مرتبط،
اما یکسان نیستند.

آیا Virtualization باعث افت Performance می شود؟

مقداری Overhead
ممکن است وجود داشته باشد،
اما مقدار آن
کاملاً به Workload
و Configuration
وابسته است.

عوامل مهم:

• VM Exit Frequency،
• Memory Translation،
• I/O Virtualization،
• CPU Scheduling،
• Resource Contention،
• NUMA Placement،
• Storage،
• Network،
• و Hypervisor Design.

آیا اختصاص vCPU بیشتر همیشه VM را سریع تر می کند؟

خیر.

افزایش vCPU
فقط زمانی مفید است
که Workload
بتواند از Parallelism
بیشتر استفاده کند
و Host
نیز منابع کافی
داشته باشد.

اختصاص بیش از حد vCPU
می تواند Scheduling
را دشوارتر کند
و در بعضی Workloadها
حتی Performance
را کاهش دهد.

Core Count در Virtualization چقدر مهم است؟

اگر چند VM
همزمان Workload
فعال داشته باشند،
Core Count
اهمیت زیادی پیدا می کند.

CPU با Core بیشتر
می تواند ظرفیت
بیشتری برای
اجرای همزمان vCPUها
فراهم کند.

اما Core Count
تنها معیار نیست.

باید مواردی مانند:

• Single-Core Performance،
• Memory Capacity،
• Memory Bandwidth،
• Cache،
• NUMA،
• I/O،
• و Power Budget

نیز بررسی شوند.

چرا RAM برای Virtualization بسیار مهم است؟

هر VM
معمولاً بخشی از
Memory سیستم
را مصرف می کند.

ممکن است CPU
هنوز ظرفیت زیادی
داشته باشد،
اما RAM
به محدودیت اصلی
تبدیل شود.

برای مثال:

4 VMs
×
8 GB RAM
=
32 GB

و Host
نیز برای خودش
Memory نیاز دارد.

بنابراین انتخاب سیستم
برای Virtualization
نباید فقط
براساس CPU باشد.

Storage چه تاثیری بر VM دارد؟

اگر چند VM
همزمان
Disk I/O
زیادی ایجاد کنند،
Storage
می تواند Bottleneck
شود.

Latency پایین
و Random I/O Performance
برای بسیاری از
Virtualized Workloadها
اهمیت زیادی دارد.

بنابراین SSD
و مخصوصاً Storage
مناسب Workload
می تواند تجربه VM
را به شکل محسوسی
تغییر دهد.

NUMA در Virtualization چه اهمیتی دارد؟

در سیستم های
Multi-Socket
یا Platformهای NUMA،
همه Memory Accessها
هزینه یکسانی ندارند.

اگر vCPU
روی یک NUMA Node
اجرا شود،
اما Memory آن
بیشتر در Node دیگری
قرار گرفته باشد،
Latency
می تواند افزایش یابد.

Local NUMA Memory
→
Lower Latency

Remote NUMA Memory
→
Higher Latency

به همین دلیل
NUMA Awareness
در Virtualization
Serverهای بزرگ
اهمیت زیادی دارد.

آیا Virtualization فقط مربوط به CPU است؟

خیر.

Deviceهای دیگر
نیز می توانند
Virtualize
یا به VM
اختصاص داده شوند.

برای مثال:

• Network Adapter،
• Storage Controller،
• USB Device،
• و GPU.

روش مورد استفاده
می تواند از
Device Emulation
تا Direct Assignment
متفاوت باشد.

IOMMU چیست و چه ارتباطی با Virtualization دارد؟

IOMMU
برای Memory Access
مربوط به I/O Deviceها
نقشی مشابه
Memory Management Unit
برای CPU
ایفا می کند.

در Virtualization
این قابلیت
می تواند به Isolation
و Device Assignment
کمک کند.

در Platformهای مختلف
نام هایی مانند:

• Intel VT-d،
• AMD IOMMU / AMD-Vi

دیده می شوند.

Virtualization در چه کارهایی استفاده می شود؟

برای خرید سیستم استوک جهت Virtualization چه CPUای مناسب است؟

ابتدا باید
نوع Workload
مشخص شود.

برای Lab سبک
ممکن است
یک CPU چند هسته ای
معمولی
کاملاً کافی باشد.

اما برای:

• چند VM همزمان،
• Server Lab،
• Active Directory Lab،
• Network Simulation،
• Development Environment،
• Database VM،
• یا Nested Virtualization

منابع بیشتری
لازم خواهد بود.

هنگام انتخاب سیستم برای Virtualization چه مواردی را بررسی کنیم؟

لپ تاپ، Desktop، Workstation یا Server؛ کدام برای Virtualization بهتر است؟

Security Boundary چیست؟

برای مثال
یک Application عادی
نباید بتواند
Memory مربوط به Kernel
را آزادانه بخواند.

Application A
≠
Unlimited Access
To
Application B / Kernel

Privilege چیست؟

Privilege
مشخص می کند
Code در حال اجرا
چه سطحی از اختیار
روی سیستم دارد.

عملیات حساس
معمولاً فقط
در سطح Privilege مناسب
قابل انجام هستند.

این کار مانع می شود
یک Application معمولی
مستقیماً کنترل کامل
Hardware
را به دست بگیرد.

User Mode و Kernel Mode چه تفاوتی دارند؟

Applicationهای معمولی
عمدتاً در User Mode
اجرا می شوند.

Operating System Kernel
در سطح Privilege بالاتری
اجرا می شود.

Ringهای امنیتی در x86 چیستند؟

معماری x86
چند Privilege Level
تعریف می کند
که معمولاً با Ring
بیان می شوند.

Ring 0
→
Highest Privilege

Ring 3
→
Lowest Traditional x86 Privilege

Operating Systemهای مدرن
عمدتاً Kernel
را در Ring 0
و Applicationهای User
را در Ring 3
اجرا می کنند.

Privileged Instruction چیست؟

بعضی Instructionها
می توانند وضعیت حساس
Processor یا سیستم
را تغییر دهند.

اجرای چنین Instructionهایی
برای Code عادی
محدود می شود.

اگر Application
بتواند آزادانه
تمام عملیات Privileged
را انجام دهد،
Isolation
میان Application
و Operating System
از بین می رود.

اگر Application دسترسی محدودی دارد، چگونه از خدمات Kernel استفاده می کند؟

Application
برای انجام بسیاری از عملیات
از Operating System
درخواست سرویس می کند.

این درخواست
از مسیر کنترل شده ای
مانند System Call
انجام می شود.

User Application
↓
System Call
↓
Kernel
↓
Validation
↓
Requested Operation

بنابراین Application
به جای کنترل مستقیم
Hardware،
از Kernel
درخواست انجام عملیات
را می کند.

CPU چگونه Memory را محافظت می کند؟

Memory Management Unit
فقط برای ترجمه Address
استفاده نمی شود.

Page Tableها
می توانند اطلاعات
Permission
نیز داشته باشند.

CPU هنگام Memory Access
بررسی می کند
آیا Access
با Permissionهای Page
سازگار است یا خیر.

Page Permission چیست؟

Memory Pageها
می توانند Permissionهای
متفاوتی داشته باشند.

برای مثال:

• Readable،
• Writable،
• Executable،
• User Accessible،
• Supervisor Only.

ترکیب این Permissionها
یکی از پایه های
Memory Protection
در سیستم مدرن است.

Read، Write و Execute چه تفاوتی دارند؟

نکته مهم این است
که Data
الزاماً نباید
Executable باشد.

NX یا XD Bit چیست؟

در نتیجه
CPU می تواند
اجازه خواندن یا نوشتن
Data را بدهد،
اما اجرای Instruction
از همان Region
را ممنوع کند.

Data Page
=
Read / Write
+
No Execute

چرا NX مهم است؟

اگر Data
وارد یک Memory Buffer شود،
نباید لزوماً
بتوان آن را
به عنوان Machine Code
اجرا کرد.

NX
اجرای Code
از Memory Regionهایی
را که برای Data
در نظر گرفته شده اند
محدود می کند.

این مکانیزم
به تنهایی
تمام حملات Memory Corruption
را متوقف نمی کند،
اما یکی از لایه های
مهم دفاعی است.

DEP چیست؟

DEP
مخفف:

Data Execution Prevention

است.

Operating System
می تواند با استفاده
از قابلیت های Hardware
مانند NX/XD
اجرای Code
از بعضی Memory Regionها
را محدود کند.

چرا سیاست Write XOR Execute مهم است؟

یک اصل امنیتی رایج
این است که
Memory Region
تا حد امکان
همزمان Writable
و Executable نباشد.

Writable
XOR
Executable

هدف این است
که مهاجم نتواند
به سادگی Code
را در Memory بنویسد
و همان Memory
را اجرا کند.

User Page و Supervisor Page چه تفاوتی دارند؟

Page Table
می تواند مشخص کند
یک Page
برای User Mode
قابل دسترسی است
یا فقط Code
با Privilege بالاتر
باید به آن
دسترسی داشته باشد.

User Page
→
User Access Possible

Supervisor Page
→
Privileged Access

SMEP چیست؟

SMEP
مخفف:

Supervisor Mode Execution Prevention

است.

این قابلیت
برای جلوگیری از اجرای
Code موجود در
User-Space Pageها
توسط Supervisor Mode
طراحی شده است.

هدف این است
که حتی اگر مهاجم
بتواند Control Flow
سطح Kernel
را منحرف کند،
اجرای مستقیم
Code قرار گرفته
در User Space
دشوارتر شود.

SMAP چیست؟

SMAP
مخفف:

Supervisor Mode Access Prevention

است.

SMAP
دسترسی Supervisor Mode
به User-Space Memory
را محدود می کند،
مگر زمانی که Kernel
به صورت کنترل شده
چنین دسترسی ای
را مجاز کند.

ASLR چیست و چه ارتباطی با CPU دارد؟

ASLR
مخفف:

Address Space Layout Randomization

است.

ASLR
یک تکنیک عمدتاً
Software / OS-Level
است که محل قرارگیری
بخش های مختلف
Address Space
را تغییر می دهد.

CPU
ASLR را به تنهایی
ایجاد نمی کند،
اما Virtual Memory
و Address Translation
سخت افزاری
زیرساخت لازم
برای چنین تکنیک هایی
را فراهم می کنند.

چرا یک قابلیت امنیتی به تنهایی کافی نیست؟

Security
معمولاً بر پایه
Defense in Depth
طراحی می شود.

یعنی چند لایه
مستقل یا نیمه مستقل
کنار هم قرار می گیرند.

Privilege Separation
+
NX
+
SMEP
+
SMAP
+
ASLR
+
OS Mitigations
=
Stronger Defense

عبور از یک لایه
نباید الزاماً
به معنی کنترل کامل
سیستم باشد.

Trusted Execution Environment یا TEE چیست؟

هدف کلی
ایجاد محیطی است
که حتی در حضور
Softwareهای دیگر
بتواند سطح مشخصی
از Confidentiality
یا Integrity
را حفظ کند.

Secure Enclave چیست؟

واژه Enclave
در بعضی فناوری ها
به Environment
یا Memory Region
محافظت شده ای
اشاره دارد
که برای اجرای
عملیات حساس
طراحی شده است.

پیاده سازی دقیق
میان Vendorها
و Architectureها
متفاوت است.

بنابراین:

“Secure Enclave”
≠
One Universal CPU Mechanism

Confidential Computing چیست؟

یکی از جهت گیری های
مهم سیستم های مدرن
محافظت از Data
نه فقط هنگام Storage
یا Network Transfer،
بلکه هنگام Processing
است.

این حوزه
معمولاً با مفهوم:

Data in Use Protection

مرتبط است.

Hardware Isolation
و قابلیت های امنیتی CPU
می توانند
بخشی از زیرساخت
Confidential Computing
باشند.

Secure Boot چیست و آیا قابلیت CPU است؟

Secure Boot
صرفاً یک قابلیت
داخل CPU نیست.

این مفهوم
بخشی از زنجیره
Boot Security
سیستم است
و Firmware،
Platform
و Cryptographic Verification
در آن نقش دارند.

هدف کلی
جلوگیری از اجرای
Boot Componentهای
غیرمجاز
یا دستکاری شده است.

Chain of Trust چیست؟

در یک Chain of Trust،
هر مرحله
قبل از واگذاری کنترل
به مرحله بعد،
اعتبار آن را
بررسی می کند.

Trusted Root
↓
Firmware
↓
Bootloader
↓
Operating System
↓
Security Services

جزئیات واقعی
به Platform
و Architecture
بستگی دارد.

چرا Speculative Execution وارد بحث امنیت CPU شد؟

CPUهای مدرن
برای افزایش Performance
تلاش می کنند
Instructionهای آینده
را پیش بینی
و زودتر اجرا کنند.

اگر Prediction
اشتباه باشد،
نتیجه معماری
عملیات اشتباه
کنار گذاشته می شود.

اما تحقیقات امنیتی
نشان دادند
بعضی اثرهای
Microarchitectural
ممکن است پس از
Speculation باقی بمانند
و از طریق Side Channel
قابل مشاهده باشند.

Side-Channel Attack چیست؟

این اثرها
می توانند شامل:

• Timing،
• Cache Behavior،
• Branch Predictor State،
• Power Consumption،
• Electromagnetic Effects،
• یا سایر نشانه های جانبی

باشند.

Cache چگونه می تواند اطلاعات جانبی ایجاد کند؟

Cache Hit
معمولاً سریع تر
از Cache Miss است.

Cache Hit
→
Low Latency

Cache Miss
→
Higher Latency

بنابراین Timing
بعضی Memory Accessها
می تواند اطلاعاتی
درباره وضعیت Cache
آشکار کند.

همین تفاوت زمانی
یکی از پایه های
برخی Cache Side Channelهاست.

Spectre چیست؟

Spectre
نام خانواده ای
از ضعف های
Microarchitectural
مرتبط با
Speculative Execution
و Prediction
است.

ایده اصلی
در سطح مفهومی
این است که
Speculative Execution
می تواند اثری
روی Microarchitectural State
باقی بگذارد.

سپس این اثر
ممکن است
از طریق Side Channel
اطلاعاتی را
آشکار کند.

Speculation
→
Microarchitectural Effect
→
Side Channel
→
Information Leakage

Meltdown چیست؟

Meltdown
یک کلاس مشهور
از آسیب پذیری های
Microarchitectural
است که نشان داد
در بعضی Processorها
رفتار اجرای گذرا
می تواند
با مرزهای
Memory Privilege
تعامل خطرناکی داشته باشد.

تفاوت دقیق
Meltdown و Spectre
پیچیده است،
اما در سطح آموزشی:

Spectre
→
Manipulating Speculation / Prediction

Meltdown
→
Transient Execution Across Certain Privilege Boundaries

Architectural State و Microarchitectural State چه تفاوتی دارند؟

Architectural State
بخشی از وضعیت CPU است
که Architecture
به Software
تعریف و نمایش می دهد.

Microarchitectural State
شامل جزئیات داخلی
Implementation
مانند برخی وضعیت های:

• Cache،
• Predictor،
• Execution Structures،
• و Bufferهای داخلی

است.

Speculative Result
ممکن است از
Architectural State
حذف شود،
اما بعضی اثرهای
Microarchitectural
می توانند
قابل مشاهده باقی بمانند.

آسیب پذیری های CPU چگونه Mitigate می شوند؟

Mitigation
می تواند در چند سطح
انجام شود.

• Microcode Update،
• Firmware Update،
• Operating System Update،
• Compiler Technique،
• Application Change،
• Hypervisor Update،
• و تغییرات Microarchitecture در نسل های جدید.

بنابراین Security
فقط ویژگی خود Silicon
نیست.

Platform Security
=
CPU
+
Firmware
+
OS
+
Hypervisor
+
Software
+
Configuration

Microcode Update چه نقشی در امنیت CPU دارد؟

در برخی Processorها
بخشی از رفتار داخلی
می تواند از طریق
Microcode Update
اصلاح یا کنترل شود.

Vendor
ممکن است برای:

• Errata،
• Security Mitigation،
• یا تغییر بعضی رفتارهای داخلی

Microcode جدید
منتشر کند.

Microcode
می تواند از طریق
BIOS/UEFI
یا در بعضی Platformها
هنگام Boot توسط OS
Load شود.

آیا Security Mitigation می تواند Performance را کاهش دهد؟

بله،
بعضی Mitigationها
می توانند Overhead
ایجاد کنند.

مقدار اثر
به:

• CPU Generation،
• نوع Vulnerability،
• Operating System،
• Workload،
• Hypervisor،
• و نوع Mitigation

بستگی دارد.

بنابراین نمی توان
یک درصد ثابت
برای همه سیستم ها
اعلام کرد.

آیا پردازنده قدیمی از نظر امنیتی لزوماً ناامن است؟

سن CPU
به تنهایی
پاسخ این سوال را
مشخص نمی کند.

باید بررسی شود:

• CPU هنوز Microcode Update دریافت می کند یا خیر.
• Firmware سیستم به روز است یا خیر.
• Operating System از CPU پشتیبانی می کند یا خیر.
• قابلیت های امنیتی مورد نیاز وجود دارند یا خیر.
• Vulnerabilityهای شناخته شده چه Mitigationهایی دارند.
• نوع استفاده سیستم چیست.

برای یک سیستم Offline
با یک Server عمومی اینترنتی،
Threat Model
یکسان نیست.

هنگام خرید سیستم استوک از نظر امنیت CPU چه چیزهایی مهم هستند؟

چرا Security و Performance گاهی با یکدیگر در تنش هستند؟

بسیاری از تکنیک های
Performance
تلاش می کنند
محدودیت زمان
و انتظار را کاهش دهند.

برای مثال:

• Speculative Execution،
• Out-of-Order Execution،
• Cache Sharing،
• Simultaneous Multithreading،
• و Prediction.

این قابلیت ها
Performance بسیار زیادی
ایجاد کرده اند،
اما Complexity
بیشتر می تواند
سطح حمله جدیدی
نیز ایجاد کند.

More Optimization
→
More Microarchitectural State
→
Potential New Security Interactions

لایه های مختلف امنیت سیستم در یک نگاه

Performance Monitoring چیست؟

هدف فقط دانستن
سریع یا کند بودن
برنامه نیست.

هدف مهم تر این است:

Why Is The Program Slow?

برای پاسخ به این سوال
باید بدانیم
CPU زمان و منابع خود را
چگونه مصرف می کند.

PMU چیست؟

PMU
می تواند اطلاعاتی
درباره رفتارهایی مانند:

• CPU Cycles،
• Retired Instructions،
• Cache Misses،
• Branch Instructions،
• Branch Mispredictions،
• و بسیاری از Microarchitectural Eventها

فراهم کند.

Hardware Performance Counter چیست؟

Performance Counter
یک شمارنده سخت افزاری
است که می تواند
وقوع Event مشخصی
را ثبت کند.

برای مثال
می توان شمارنده ای
را برای اندازه گیری:

CPU Cycles

و شمارنده دیگری را
برای:

Instructions Retired

استفاده کرد.

سپس نسبت این مقادیر
اطلاعات بسیار مفیدی
درباره Efficiency
اجرای Workload
می دهد.

Performance Event چیست؟

Event
رویدادی داخل CPU
یا بخش های مرتبط
با اجرای Instruction است
که PMU
می تواند آن را
اندازه گیری کند.

نوع Eventهای قابل اندازه گیری
به Architecture
و مدل پردازنده
وابسته است.

بنابراین:

Available PMU Events
≠
Identical On Every CPU

Instruction Retired یعنی چه؟

در CPUهای Out-of-Order
ممکن است Instructionهای زیادی
وارد Pipeline شوند،
اجرا شوند
یا حتی Speculatively
پردازش شوند.

اما همه آنها
الزاماً به نتیجه نهایی
برنامه تبدیل نمی شوند.

Retired Instruction
به Instructionی اشاره می کند
که اجرای آن
به صورت معماری
پذیرفته و Commit شده است.

Executed
≠
Necessarily Retired

CPU Cycle در Performance Monitoring چیست؟

Cycle
واحدی مرتبط
با Clock پردازنده است.

شمارش Cycleها
به ما اجازه می دهد
مقدار کار انجام شده
را نسبت به
زمان پردازشی CPU
تحلیل کنیم.

یکی از مهم ترین نسبت هایی
که از Cycles
و Retired Instructions
ساخته می شود
IPC است.

IPC چیست؟

IPC
=
Instructions Retired
/
CPU Cycles

برای مثال اگر:

Instructions = 4,000,000,000

Cycles = 2,000,000,000

آنگاه:

IPC = 2

CPI چیست؟

CPI
مخفف:

Cycles Per Instruction

است.

CPI
تقریباً نگاه معکوس
IPC به Performance
است.

CPI
=
CPU Cycles
/
Instructions Retired

بنابراین:

CPI
=
1 / IPC

در شرایط ساده
IPC بیشتر
یا CPI کمتر
می تواند نشانه
استفاده موثرتر
از Cycleها باشد،
اما مقایسه باید
با احتیاط انجام شود.

آیا IPC بیشتر همیشه به معنی CPU سریع تر است؟

خیر.

IPC
به عوامل زیادی
وابسته است:

• نوع Workload،
• Instruction Mix،
• Compiler،
• Dataset،
• Cache Behavior،
• Memory Latency،
• Branch Behavior،
• Microarchitecture،
• و Clock Frequency.

بنابراین IPC
یک Benchmark مستقل
برای مقایسه تمام CPUها
نیست.

IPC و Frequency چگونه با هم Performance را می سازند؟

در یک مدل بسیار ساده:

Work Per Second
≈
IPC
×
Clock Frequency

اما Performance واقعی
علاوه بر این دو
به Parallelism،
Memory،
Cache،
Software
و عوامل دیگر
نیز وابسته است.

بنابراین مقایسه صرف
GHz
یا صرف IPC
کافی نیست.

Cache Hit و Cache Miss چه اطلاعاتی درباره Performance می دهند؟

اگر Data
در Cache مناسب
پیدا شود،
CPU می تواند
سریع تر به آن
دسترسی پیدا کند.

Cache Hit
→
Lower Access Cost

اگر Data
در آن Cache
موجود نباشد:

Cache Miss
→
Search Lower Cache Level
Or
Memory

افزایش Missهای مهم
می تواند باعث شود
Execution Unitها
منتظر Data بمانند.

Cache Miss Rate چیست؟

Miss Rate
نسبت Missها
به تعداد Accessهای
مربوطه است.

Cache Miss Rate
=
Cache Misses
/
Cache Accesses

اما فقط تعداد Miss
مهم نیست.

باید بدانیم
Miss در کدام سطح Cache
رخ داده
و هزینه آن
برای Workload
چقدر بوده است.

MPKI چیست؟

یکی از روش های
Normalize کردن
تعداد Missها
استفاده از:

Misses Per Kilo Instructions

یا MPKI است.

MPKI
=
Misses
/
Instructions
×
1000

این معیار
می تواند برای مقایسه
رفتار Memory Hierarchy
در اجرای یک Workload
مفید باشد.

Branch Prediction چگونه اندازه گیری می شود؟

PMU
می تواند Eventهایی
مرتبط با:

• Branch Instructions،
• Predicted Branches،
• و Branch Mispredictions

در اختیار ابزارهای
Performance Analysis
قرار دهد.

Branch Misprediction
می تواند باعث شود
بخشی از کار Speculative
کنار گذاشته شود.

Branch Misprediction Rate چیست؟

به صورت ساده:

Branch Misprediction Rate
=
Mispredicted Branches
/
Branches

مقدار بالاتر
می تواند نشان دهد
Control Flow برنامه
برای Predictor
دشوارتر است.

اما اثر Performance
به Architecture
و هزینه Recovery
نیز وابسته است.

Pipeline Stall چیست؟

Stall
زمانی رخ می دهد
که بخشی از Pipeline
نتواند با نرخ مطلوب
کار خود را ادامه دهد.

علت می تواند:

• نبود Instruction،
• نبود Data،
• Dependency،
• کمبود Execution Resource،
• Cache Miss،
• Memory Latency،
• یا محدودیت های دیگر

باشد.

Front-End Bound چیست؟

Front End
مسئول آماده کردن
Instructionها
برای بخش Execution
است.

اگر Front End
نتواند به اندازه کافی
Micro-Operation
یا Instruction
در اختیار Back End
قرار دهد،
CPU می تواند
Front-End Bound شود.

Insufficient Instruction Supply
→
Front-End Bound

علت های احتمالی
می توانند شامل:

• Instruction Cache Miss،
• Instruction TLB Miss،
• Decode Bottleneck،
• Fetch Limitation،
• و بعضی Control-Flow Effects

باشند.

Back-End Bound چیست؟

در Back-End Bound
Front End
ممکن است Instruction کافی
فراهم کند،
اما Execution
نمی تواند آنها را
با سرعت مطلوب
پردازش کند.

Instructions Available
+
Execution Cannot Keep Up
→
Back-End Bound

Back-End Bottleneck
می تواند از:

• Memory،
• Cache،
• Execution Ports،
• Functional Units،
• Dependencies،
• یا Resource Pressure

ایجاد شود.

Memory Bound چیست؟

Workload زمانی
Memory Bound
محسوب می شود
که Performance آن
به شکل قابل توجهی
توسط دسترسی به
Memory Hierarchy
محدود شود.

ممکن است CPU
Execution Resource آزاد
داشته باشد،
اما Instructionها
منتظر Data باشند.

CPU Ready
+
Data Not Ready
=
Memory Related Stall

Memory Latency Bound و Memory Bandwidth Bound چه تفاوتی دارند؟

این دو
یک مشکل واحد نیستند.

در Latency Bound:

Waiting For Individual Memory Requests

اهمیت زیادی دارد.

در Bandwidth Bound:

Too Much Data Transfer Demand
→
Available Bandwidth Saturated

بنابراین افزایش
Memory Bandwidth
الزاماً مشکل
Latency-Bound Workload
را حل نمی کند.

Core Bound چیست؟

Core Bound
به شرایطی اشاره می کند
که محدودیت اصلی
بیشتر از منابع Execution
داخل Core
ناشی می شود،
نه انتظار طولانی
برای Memory.

برای مثال
Workload ممکن است
فشار زیادی روی
مجموعه مشخصی از:

• Execution Units،
• Ports،
• Arithmetic Resources،
• یا Dependency Chains

ایجاد کند.

Bad Speculation چیست؟

CPU ممکن است
کارهایی را
Speculatively
انجام دهد
که بعداً مشخص شود
در مسیر صحیح
برنامه نبوده اند.

در این حالت
بخشی از ظرفیت Execution
صرف کاری شده
که در نهایت
Retire نمی شود.

Work Executed
–
Work Retired
=
Potential Wasted Work

Branch Misprediction
یکی از عوامل مهم
Bad Speculation است.

Retiring در Performance Analysis چیست؟

Retiring
نشان دهنده بخشی
از ظرفیت CPU است
که صرف کاری شده
که واقعاً
به نتیجه معماری
برنامه تبدیل شده است.

به صورت مفهومی:

Useful Work
→
Retiring

البته Retiring بالا
همیشه به معنی
بهینه بودن کامل
Algorithm نیست.

ممکن است برنامه
مقدار زیادی
Instruction غیرضروری
را نیز با موفقیت
Retire کند.

Top-Down Performance Analysis چیست؟

یکی از روش های
تحلیل Microarchitecture
دسته بندی ظرفیت
Pipeline
در چند گروه اصلی است.

در یک مدل مفهومی:

• Retiring،
• Bad Speculation،
• Front-End Bound،
• Back-End Bound.

Pipeline Slots
→
Retiring
+
Bad Speculation
+
Front-End Bound
+
Back-End Bound

این دسته بندی
کمک می کند
به جای بررسی
صدها Counter
از ابتدا،
ابتدا نوع کلی
Bottleneck
مشخص شود.

Counting و Sampling چه تفاوتی دارند؟

در Counting
هدف شمارش تعداد
Eventها در یک بازه است.

Counting
→
How Many Events Happened?

در Sampling
سیستم در نقاطی
از اجرای برنامه
نمونه جمع آوری می کند
تا مشخص شود
Eventها بیشتر
در کدام Code Region
رخ می دهند.

Sampling
→
Where Did The Events Happen?

این دو روش
مکمل یکدیگر هستند.

Hotspot چیست؟

Hotspot
بخشی از Code
است که سهم قابل توجهی
از Execution Time
یا Eventهای Performance
را به خود اختصاص می دهد.

بهینه سازی بخش هایی
که تقریباً هیچ زمانی
در آنها صرف نمی شود،
معمولاً اثر کمی
روی Performance نهایی دارد.

Optimize
What Actually Matters

چرا CPU Usage معیار کافی برای Performance نیست؟

CPU Usage بالا
نشان می دهد
CPU زمان زیادی
در حال اجرای Work
بوده است.

اما مشخص نمی کند
این زمان
چقدر موثر بوده است.

یک Core می تواند
تقریباً 100 درصد
Busy باشد،
اما بخش زیادی
از Pipeline
به دلیل Cache Miss
یا Dependency
استفاده نشده باشد.

Busy
≠
Efficient

چرا هنگام Performance Analysis باید Frequency واقعی را بررسی کنیم؟

CPU ممکن است
همیشه با Clock
اسمی یا Maximum Turbo
کار نکند.

Frequency واقعی
می تواند تحت تاثیر:

• Power Limit،
• Temperature،
• Current Limit،
• Workload Type،
• Core Utilization،
• و Firmware Policy

تغییر کند.

بنابراین Performance پایین
ممکن است
از Microarchitecture نباشد
و علت اصلی
کاهش Frequency باشد.

چگونه Throttling را از Bottleneck معماری جدا کنیم؟

اگر CPU
به دلیل Temperature
یا Power Limit
Frequency خود را کاهش دهد،
Performance کاهش پیدا می کند.

در چنین حالتی
قبل از تحلیل عمیق
Cache و Pipeline
باید شرایط عملیاتی
CPU بررسی شود.

Step 1
→
Verify Frequency / Temperature / Power

Step 2
→
Analyze Microarchitectural Bottlenecks

Performance Counterها در برنامه های Multi-Threaded چه چالشی دارند؟

در Workload چند Threadی
باید مشخص شود
Event مربوط به:

• یک Thread،
• یک Process،
• یک Core،
• یک Logical Processor،
• یا کل سیستم

است.

Scheduling
و جابه جایی Threadها
میان Coreها
می تواند تحلیل
را پیچیده تر کند.

SMT چه تاثیری بر تحلیل Performance دارد؟

در SMT
دو یا چند Logical Thread
ممکن است
بخشی از Resourceهای
یک Physical Core
را به اشتراک بگذارند.

بنابراین رفتار
یک Thread
می تواند تحت تاثیر
Thread همزمان
روی همان Core
قرار گیرد.

Shared Core Resources
→
Possible Contention

برای Benchmark دقیق
باید وضعیت SMT
و Thread Placement
مشخص باشد.

NUMA چگونه می تواند Performance Counterها را توضیح دهد؟

در سیستم NUMA
Memory Access
می تواند Local
یا Remote باشد.

اگر Thread
روی یک Node
اجرا شود
ولی Data
در Node دیگری باشد،
Memory Latency
افزایش پیدا می کند.

Remote NUMA Access
→
Higher Memory Cost

بنابراین Memory Bound بودن
یک Workload
ممکن است
از Placement نامناسب
ناشی شده باشد.

آیا Hardware Counterها کاملاً دقیق هستند؟

Counterها ابزار بسیار قدرتمندی هستند،
اما باید با درک
محدودیت های آنها
استفاده شوند.

مواردی مانند:

• Event Definition،
• CPU Model،
• Counter Availability،
• Multiplexing،
• Sampling Error،
• OS Scheduling،
• Virtualization،
• و Measurement Overhead

می توانند روی نتیجه
اثر بگذارند.

PMU Multiplexing چیست؟

تعداد Hardware Counterهای
فیزیکی محدود است.

اگر بخواهیم
Eventهای بیشتری
از Counterهای موجود
اندازه گیری کنیم،
Software می تواند
Eventها را
در طول زمان
بین Counterها
جابه جا کند.

Many Requested Events
>
Available Counters
→
Multiplexing

در این حالت
برخی مقادیر
تخمین زده
یا Scale می شوند
و باید با احتیاط
تفسیر شوند.

برای پیدا کردن Bottleneck واقعی CPU از کجا شروع کنیم؟

مثال: چرا یک برنامه با CPU Usage صددرصد هنوز کند است؟

فرض کنید
یک Application
یک Core را
کاملاً درگیر کرده است.

CPU Usage = 100%

در نگاه اول
ممکن است تصور کنیم
Core با حداکثر Efficiency
کار می کند.

اما Performance Counterها
نشان می دهند:

IPC = Low

Last-Level Cache Misses = High

Back-End Memory Bound = High

در این شرایط
مشکل اصلی
کمبود CPU Usage نیست.

Core مشغول است،
اما بخش زیادی از زمان
منتظر رسیدن Data
از Memory Hierarchy
می ماند.

100% Busy
+
Low IPC
+
High Memory Stalls
→
Memory Bottleneck

مثال: CPU سریع است اما Branch Misprediction زیاد است

در Workload دیگری
ممکن است Cache Behavior
مناسب باشد،
اما Branch Predictor
مرتباً Prediction اشتباه
انجام دهد.

High Branch Misprediction
→
Pipeline Recovery
→
Wasted Speculative Work

در این حالت
Bad Speculation
می تواند سهم قابل توجهی
از ظرفیت Pipeline
را مصرف کند.

Benchmark و Performance Counter چه تفاوتی دارند؟

Benchmark
معمولاً به ما می گوید:

How Fast?

Performance Counterها
بیشتر کمک می کنند بفهمیم:

Why?

بهترین تحلیل
معمولاً از ترکیب
این دو حاصل می شود.

Benchmark
+
Hardware Counters
=
Better Performance Diagnosis

Performance Monitoring برای بررسی سیستم استوک چه کاربردی دارد؟

در سیستم استوک
پایین بودن Performance
الزاماً به معنی
ضعیف بودن مدل CPU
نیست.

عوامل دیگری
ممکن است باعث شوند
پردازنده به Performance
مورد انتظار نرسد.

• Thermal Throttling،
• Power Limit،
• Cooling ضعیف،
• RAM تک کاناله،
• Memory Frequency پایین،
• Firmware Configuration،
• Background Process،
• و Storage Bottleneck.

بنابراین مقایسه
نتیجه Benchmark
با رفتار داخلی سیستم
می تواند به تشخیص
علت Performance غیرعادی
کمک کند.

برای بررسی Performance یک CPU یا سیستم استوک چه مراحلی مناسب است؟

Benchmark چیست؟

Benchmark می تواند
مدت زمان انجام یک کار،
تعداد عملیات در ثانیه،
Frame Rate،
Latency،
Throughput
یا یک Score ترکیبی
را گزارش کند.

Benchmark
=
Defined Workload
+
Defined Conditions
+
Measurable Result

یک Benchmark خوب چه ویژگی هایی دارد؟

Benchmark مناسب
باید تا حد امکان:

• قابل تکرار باشد.
• شرایط اجرای مشخص داشته باشد.
• Workload آن برای سوال مورد بررسی مرتبط باشد.
• نتایج آن قابل اندازه گیری باشند.
• متغیرهای مزاحم تا حد امکان کنترل شوند.
• روش گزارش نتیجه شفاف باشد.

مهم ترین سوال
قبل از اجرای Benchmark این است:

What Exactly Are We Trying To Measure?

Synthetic Benchmark چیست؟

Synthetic Benchmark
Workloadی است
که عمدتاً برای اندازه گیری
جنبه مشخصی از Performance
طراحی شده است.

چنین Benchmarkهایی
می توانند برای:

• مقایسه سریع CPUها،
• بررسی تغییر Performance،
• آزمایش Subsystem مشخص،
• و ایجاد شرایط قابل تکرار

مفید باشند.

اما امتیاز Synthetic
الزاماً Performance
تمام برنامه های واقعی
را پیش بینی نمی کند.

Real-World Benchmark چیست؟

در Real-World Benchmark
از Application
یا Workflow واقعی
استفاده می شود.

برای مثال:

• Render کردن یک Scene،
• Export کردن Video،
• Compile کردن یک Project،
• فشرده سازی فایل،
• اجرای Simulation،
• پردازش مجموعه ای از تصاویر،
• یا اجرای Game.

این Testها
معمولاً برای پاسخ
به سوال کاربردی:

Which System Is Faster For My Work?

ارزش بیشتری دارند.

Microbenchmark چیست؟

Microbenchmark
تلاش می کند
بخش بسیار مشخصی
از سیستم
یا Microarchitecture
را اندازه گیری کند.

برای مثال:

• Memory Latency،
• Cache Bandwidth،
• Instruction Latency،
• Instruction Throughput،
• Branch Behavior،
• یا Synchronization Cost.

Microbenchmark
برای فهم رفتار داخلی
بسیار مفید است،
اما نتیجه آن
نباید مستقیماً
به Performance کل Application
تعمیم داده شود.

Single-Core Benchmark چه چیزی را اندازه گیری می کند؟

Single-Core Benchmark
تلاش می کند
Performance اجرای Workload
با استفاده محدود
از یک Core
یا یک Execution Thread
را بررسی کند.

نتیجه می تواند
تحت تاثیر:

• IPC،
• Clock Frequency،
• Cache،
• Memory Latency،
• Boost Behavior،
• و نوع Workload

قرار گیرد.

Multi-Core Benchmark چه چیزی را اندازه گیری می کند؟

Multi-Core Benchmark
Workloadی را اجرا می کند
که می تواند
از چند Core
یا Thread
استفاده کند.

Performance آن
علاوه بر سرعت هر Core
به مواردی مانند:

• تعداد Coreها،
• تعداد Threadها،
• Scaling نرم افزار،
• Memory Bandwidth،
• Cache Sharing،
• Power Budget،
• و Thermal Limit

وابسته است.

چرا دو برابر شدن Coreها Performance را دو برابر نمی کند؟

همه بخش های یک برنامه
قابل Parallel شدن نیستند.

علاوه بر آن،
Threadهای بیشتر
می توانند باعث افزایش:

• Synchronization،
• Communication،
• Memory Pressure،
• Cache Contention،
• و Scheduling Overhead

شوند.

2× Cores
≠
Automatically 2× Performance

Latency Benchmark و Throughput Benchmark چه تفاوتی دارند؟

Latency
می پرسد:

How Long Does One Task Take?

Throughput
می پرسد:

How Much Work Can Be Completed Per Unit Of Time?

این دو معیار
می توانند نتیجه گیری های
متفاوتی درباره یک CPU
ایجاد کنند.

یک پردازنده
ممکن است Latency
بسیار خوبی برای
یک Task داشته باشد،
اما CPU دیگری
به دلیل Coreهای بیشتر
Throughput بالاتری
ارائه دهد.

Warm-up چیست و چرا اهمیت دارد؟

اولین اجرای یک Workload
ممکن است با اجراهای بعدی
شرایط یکسانی نداشته باشد.

عواملی مانند:

• Cache State،
• File Cache،
• JIT Compilation،
• Code Loading،
• Dynamic Optimization،
• و Power/Frequency State

می توانند نتیجه
اولین Run
را متفاوت کنند.

به همین دلیل
بعضی Benchmarkها
قبل از Measurement اصلی
Warm-up Run
اجرا می کنند.

Cold Run و Warm Run چه تفاوتی دارند؟

Cold Run
تلاش می کند
شرایط اجرای اولیه
را اندازه گیری کند.

Warm Run
زمانی انجام می شود
که بخشی از State
از اجرای قبلی
باقی مانده است.

Cold Performance
≠
Warm Performance

هیچ کدام
ذاتاً بهتر نیستند.

باید مشخص باشد
Benchmark قصد اندازه گیری
کدام Scenario
را دارد.

چرا یک بار اجرای Benchmark کافی نیست؟

سیستم کامپیوتری
محیط کاملاً ثابت
و بدون Noise نیست.

Scheduler،
Background Process،
Temperature،
Boost،
Interrupt،
Storage
و عوامل دیگر
می توانند نتیجه
هر Run را کمی تغییر دهند.

بنابراین:

One Run
≠
Reliable Conclusion

اجرای چندباره
به ما اجازه می دهد
Variance
را مشاهده کنیم.

Run-to-Run Variance چیست؟

اگر Benchmark
چند بار اجرا شود،
نتایج ممکن است
دقیقاً یکسان نباشند.

میزان پراکندگی
بین Runها
اطلاعات مهمی
درباره Stability
Test می دهد.

برای مثال:

Run 1 = 100

Run 2 = 101

Run 3 = 99

با:

Run 1 = 100

Run 2 = 120

Run 3 = 82

از نظر Reliability
یکسان نیست.

Mean یا میانگین چیست؟

Mean
از جمع نتایج
و تقسیم آن
بر تعداد نمونه ها
به دست می آید.

Mean
=
Sum Of Results
/
Number Of Results

Mean بسیار مفید است،
اما می تواند
تحت تاثیر Outlier
قرار گیرد.

Median یا میانه چیست؟

Median
مقدار میانی
مجموعه مرتب شده
نتایج است.

برای مثال:

98
/
99
/
100
/
101
/
140

Median برابر:

100

است.

Median
نسبت به بعضی Outlierها
مقاوم تر از Mean است.

Outlier چیست؟

Outlier
نتیجه ای است
که به شکل غیرعادی
از سایر نمونه ها
فاصله دارد.

اما نباید
هر نتیجه متفاوتی
را بدون بررسی
حذف کرد.

Outlier ممکن است
نشانه یک مشکل واقعی باشد:

• Thermal Throttling،
• Background Task،
• Power Limit،
• Garbage Collection،
• Storage Activity،
• یا Scheduling Event.

ابتدا علت را بررسی کنید،
سپس درباره حذف نمونه
تصمیم بگیرید.

Percentile چیست؟

Percentile
به ما کمک می کند
توزیع نتایج
یا Latencyها
را بهتر درک کنیم.

برای مثال
در Latency Measurement:

P95 Latency

به طور مفهومی
حدی است که
تقریباً 95 درصد
نمونه ها
در یا پایین تر
از آن قرار می گیرند.

این معیار
برای Workloadهایی
که Consistency
اهمیت دارد
بسیار مفید است.

1% Low چیست؟

1% Low
بیشتر در Benchmarkهای Gaming
و Frame-Time Analysis
دیده می شود.

هدف آن
نمایش رفتار
بخش کندتر تجربه
به جای تمرکز صرف
بر Average FPS است.

روش محاسبه دقیق
می تواند میان ابزارها
یا Review Methodologyها
متفاوت باشد.

بنابراین باید
Methodology منبع
بررسی شود.

Average FPS Alone
≠
Complete Smoothness Picture

چرا Temperature در Benchmark مهم است؟

CPUهای مدرن
رفتار Frequency
و Power خود را
براساس شرایط حرارتی
تغییر می دهند.

دو سیستم
با CPU یکسان
اما Cooling متفاوت
می توانند
Performance متفاوتی
ارائه دهند.

Same CPU
+
Different Cooling
=
Potentially Different Sustained Performance

چرا Benchmark کوتاه و طولانی ممکن است نتیجه متفاوتی بدهند؟

در شروع Workload
ممکن است CPU
بتواند برای مدت کوتاهی
Frequency یا Power
بالاتری حفظ کند.

با ادامه Load:

Temperature Rises
↓
Power / Thermal Constraints
↓
Sustained Operating Point

بنابراین Benchmark کوتاه
بیشتر می تواند
Burst Performance
را نشان دهد،
در حالی که
Benchmark طولانی
Sustained Performance
را بهتر آشکار می کند.

Power Limit چگونه Benchmark را تغییر می دهد؟

دو سیستم
ممکن است از CPU
با نام تجاری یکسان
استفاده کنند،
اما Manufacturer
آنها را با
Power Policy متفاوت
تنظیم کرده باشد.

در نتیجه:

Same CPU Model
≠
Same Sustained Power
≠
Same Sustained Performance

این موضوع
به خصوص در Laptop
و Mini PC
اهمیت زیادی دارد.

چرا مقایسه CPU لپ تاپ فقط براساس نام پردازنده اشتباه است؟

Performance واقعی
پردازنده لپ تاپ
تحت تاثیر طراحی
خود دستگاه است.

موارد مهم:

• Cooling System،
• Power Limits،
• Fan Profile،
• Chassis Size،
• Firmware،
• RAM Configuration،
• Ambient Temperature،
• و Performance Mode.

بنابراین Benchmark
یک مدل CPU
در یک Laptop
الزاماً نتیجه همان CPU
در Laptop دیگری نیست.

آیا می توان CPU دسکتاپ و لپ تاپ را فقط با Score مقایسه کرد؟

Score می تواند
بخشی از مقایسه باشد،
اما Context
بسیار مهم است.

Laptop
معمولاً با محدودیت های:

• Power،
• Cooling،
• Size،
• Noise،
• و Battery

روبروست.

Desktop
ممکن است
Power و Cooling
بسیار بیشتری
در اختیار CPU
قرار دهد.

پس علاوه بر Performance
باید Performance-per-Watt
و محدودیت Platform
نیز در نظر گرفته شود.

RAM چگونه نتیجه CPU Benchmark را تغییر می دهد؟

اگر Benchmark
به Memory Subsystem
حساس باشد،
تغییر:

• Memory Frequency،
• Memory Timing،
• Channel Configuration،
• Memory Capacity،
• و Rank Configuration

می تواند نتیجه را
تغییر دهد.

بنابراین هنگام
مقایسه CPUها
Memory Configuration
باید ثبت شود.

Background Process چگونه Benchmark را خراب می کند؟

برنامه های پس زمینه
می توانند:

• CPU Time مصرف کنند،
• Cache را تحت تاثیر قرار دهند،
• Memory Bandwidth مصرف کنند،
• Storage Activity ایجاد کنند،
• و Thermal State سیستم را تغییر دهند.

Benchmark معتبر
باید تا حد امکان
شرایط Background Load
را کنترل کند.

چرا نسخه سیستم عامل و Software Stack باید ثبت شود؟

Performance فقط
محصول Hardware نیست.

تغییر:

• Operating System،
• Scheduler،
• Driver،
• Compiler،
• Application Version،
• Security Mitigation،
• و Firmware

می تواند نتیجه
Benchmark را تغییر دهد.

Benchmark Result
=
Hardware
+
Software Stack
+
Configuration

مقایسه منصفانه CPU یعنی چه؟

Fair Comparison
الزاماً به معنی
یکسان کردن تمام تنظیمات
نیست.

روش Test
باید با سوال
مورد نظر هماهنگ باشد.

برای مثال
دو سوال متفاوت داریم:

Which CPU Is Faster
At The Same Power?

و:

Which Product Is Faster
With Its Factory Configuration?

این دو سوال
Methodology یکسانی
ندارند.

Benchmark گمراه کننده را چگونه تشخیص دهیم؟

هنگام مشاهده
یک نمودار یا Score
باید چند سوال
مطرح شود:

Cherry Picking در Benchmark چیست؟

Cherry Picking
یعنی انتخاب
فقط Testها یا نتایجی
که نتیجه مطلوب
را نشان می دهند
و نادیده گرفتن
داده های مخالف.

برای مثال
یک CPU ممکن است
در یک Benchmark خاص
بسیار سریع باشد
اما در Workloadهای دیگر
برتری مشابهی نداشته باشد.

One Favorable Benchmark
≠
Universal Performance Superiority

اختلاف درصدی Performance چگونه محاسبه می شود؟

اگر Score بیشتر
بهتر باشد:

Performance Gain %
=
(New – Old)
/
Old
×
100

اما اگر Benchmark
زمان اجرا را گزارش کند
و عدد کمتر بهتر باشد،
تفسیر باید با دقت
بیشتری انجام شود.

«20 درصد زمان کمتر»
الزاماً با عبارت
«20 درصد سریع تر»
از نظر ریاضی
یکسان نیست.

چرا کاهش زمان و افزایش سرعت درصد یکسانی ندارند؟

فرض کنید
Task قبلاً:

100 Seconds

طول می کشید
و اکنون:

80 Seconds

زمان اجرا
20 درصد کاهش یافته است.

اما Speedup:

Speedup
=
100 / 80
=
1.25×

یعنی Throughput
یا سرعت انجام همان Task
در این مدل
25 درصد بیشتر شده است.

برای تست CPU در سیستم استوک چه Methodology مناسبی داریم؟

در لپ تاپ استوک چه چیزی از Score مهم تر است؟

در Laptop استوک
فقط Peak Score
اهمیت ندارد.

باید بررسی شود
آیا دستگاه می تواند
Performance را
در Load طولانی
حفظ کند.

Peak Performance
vs
Sustained Performance

افت شدید Score
در Runهای متوالی
می تواند نشانه:

• Cooling ضعیف،
• گردوغبار،
• Thermal Interface نامناسب،
• Power Limitation،
• Fan Problem،
• یا تنظیمات Firmware

باشد.

چرا Benchmark متوالی برای سیستم استوک مفید است؟

یک Run کوتاه
ممکن است فقط
Burst Performance
سیستم را نشان دهد.

اجرای چندباره
می تواند رفتار
حرارتی سیستم
را آشکار کند.

Run 1
→
High Score

Run 2
→
Slightly Lower

Run 3
→
Stable

می تواند رفتار طبیعی
رسیدن سیستم
به Thermal Equilibrium باشد.

اما:

Run 1
→
High

Run 2
→
Much Lower

Run 3
→
Even Lower

نیاز به بررسی
Cooling،
Frequency
و Power دارد.

یک گزارش Benchmark خوب چه اطلاعاتی باید داشته باشد؟