راهنمای جامع پردازنده های (Intel و AMD) | تشخیص نسل CPU، معنی پسوندها، مقایسه قدرت، انتخاب بهترین پردازنده و کاربرد هر مدل

Memory Controller چیست؟

وظایف آن
می توانند شامل:

• دریافت Memory Requestها،
• زمان بندی Requestها،
• مدیریت Channelها،
• اعمال Timingهای لازم،
• ارسال Command به DRAM،
• و انتقال Data میان RAM و CPU

باشند.

Memory Request
→
Memory Controller
→
DRAM Commands
→
Data Transfer

IMC چیست؟

IMC
مخفف:

Integrated Memory Controller

است.

در CPUهای مدرن
Memory Controller
معمولاً داخل Processor
یا Package پردازنده
یکپارچه شده است.

این طراحی
مسیر ارتباط
CPU و RAM
را مستقیم تر
از معماری های قدیمی تر
می کند.

CPU
+
Integrated Memory Controller
→
Direct Memory Interface

در سیستم های قدیمی Memory Controller کجا بود؟

در برخی Platformهای قدیمی،
Memory Controller
داخل Chipset
یا Northbridge
قرار داشت.

CPU
→
Front-Side Bus
→
Chipset / Memory Controller
→
RAM

در بسیاری از CPUهای مدرن:

CPU
→
Integrated Memory Controller
→
RAM

این تغییر
یکی از تحولات مهم
در طراحی Platformهای مدرن
بود.

Memory Channel چیست؟

اگر Controller
چند Channel داشته باشد،
می تواند Data
را از چند مسیر
منتقل کند.

Memory Controller
↙
Channel A
↘
Channel B

افزایش تعداد Channel
می تواند
Bandwidth قابل دسترس
را افزایش دهد.

Single Channel و Dual Channel چه تفاوتی دارند؟

در Single Channel
فقط یک Channel
فعال است.

CPU
→
Channel A
→
RAM

در Dual Channel
دو Channel مستقل
می توانند
به صورت همزمان
Data منتقل کنند.

CPU
→
Channel A
+
Channel B
→
Higher Aggregate Bandwidth

بنابراین
Dual Channel
معمولاً ظرفیت انتقال
بیشتری نسبت به
Single Channel
فراهم می کند.

Channel با ظرفیت RAM یکی نیست

مقدار RAM
و تعداد Channel
دو مفهوم متفاوت هستند.

برای مثال:

16 GB RAM

می تواند به شکل:

1 × 16 GB

یا:

2 × 8 GB

پیاده سازی شود.

اگر Platform
Dual Channel باشد،
Configuration دوم
معمولاً امکان استفاده
از دو Channel
را فراهم می کند.

عرض Memory Channel چه تاثیری دارد؟

هر Channel
دارای Data Width
مشخصی است.

Bandwidth نظری
به Data Rate
و Width
بستگی دارد.

Theoretical Bandwidth
≈
Data Rate
×
Bus Width
×
Number Of Channels

این رابطه
یک مدل ساده شده
برای درک Bandwidth است.

Frequency RAM با Data Rate چه تفاوتی دارد؟

در حافظه DDR
Data
در هر Cycle Clock
بیش از یک انتقال
انجام می دهد.

DDR مخفف:

Double Data Rate

است.

بنابراین عددی که
به شکل DDR4-3200
یا DDR5-5600
بیان می شود،
بهتر است به عنوان
Data Rate
در واحد:

MT/s

در نظر گرفته شود.

MT/s و MHz یکی هستند؟

خیر.

MHz
Frequency Clock
را توصیف می کند.

MT/s
تعداد Transfer
در ثانیه را
بیان می کند.

در DDR:

Effective Data Rate
≈
2 × Memory Clock

برای مثال
حافظه DDR با Data Rate
حدود 3200 MT/s
Clock واقعی پایین تری
دارد.

Memory Bandwidth چیست؟

Bandwidth بیشتر
مخصوصاً برای Workloadهایی
که حجم زیادی Data
منتقل می کنند
اهمیت دارد.

به صورت مفهومی:

Higher Data Rate
+
More Channels
→
Higher Potential Memory Bandwidth

Bandwidth نظری چگونه محاسبه می شود؟

برای یک Memory Channel
64 بیتی،
می توان به صورت ساده
نوشت:

Bandwidth
=
Data Rate
×
8 Bytes

چون:

64 bits
=
8 Bytes

برای مثال:

DDR4-3200
→
3200 MT/s
×
8 Bytes
≈
25.6 GB/s
Per 64-bit Channel

در Dual Channel
Bandwidth نظری
تقریباً دو برابر
می شود.

Bandwidth واقعی
معمولاً کمتر
از عدد نظری است.

Memory Latency چیست؟

Latency
مدت زمانی است
که CPU
برای دریافت پاسخ
یک Memory Request
منتظر می ماند.

Request
→
Wait
→
Data

Bandwidth و Latency
دو معیار متفاوت هستند.

Bandwidth
=
How Much Data Per Second?

Latency
=
How Long Until Data Arrives?

چرا Bandwidth بالا الزاماً Latency پایین نیست؟

یک Memory System
ممکن است
حجم بسیار زیادی Data
در ثانیه منتقل کند،
اما پاسخ یک Access منفرد
همچنان Latency قابل توجهی
داشته باشد.

مشابه یک بزرگراه:

تعداد خودروهایی
که در ساعت
از مسیر عبور می کنند
با مدت زمانی
که یک خودرو
برای رسیدن به مقصد
نیاز دارد
یک چیز نیست.

High Throughput
≠
Low Latency

CAS Latency یا CL چیست؟

CL
یکی از Timingهای
مهم DRAM است.

CAS
مخفف:

Column Address Strobe

است.

CAS Latency
تعداد Clock Cycle
مشخصی را
در بخشی از فرایند
دسترسی DRAM
بیان می کند.

اما CL
به تنهایی
Latency کامل RAM
را نشان نمی دهد.

چرا CL بیشتر همیشه بدتر نیست؟

CL
با تعداد Cycle
بیان می شود،
نه مستقیماً
با Nanosecond.

اگر Memory Clock
بیشتر شود،
هر Cycle
زمان کمتری دارد.

بنابراین:

Higher CL
+
Higher Frequency
Can Still Produce
Similar Or Lower Absolute Latency

برای مقایسه صحیح
باید Timing
و Clock
را با هم دید.

Memory Rank چیست؟

Rank
گروهی از Memory Chipهاست
که Memory Controller
آنها را به عنوان
یک مجموعه منطقی
مدیریت می کند.

DIMM
می تواند
Single Rank
یا Multi Rank
باشد.

Rank بیشتر
می تواند در برخی شرایط
به Controller اجازه دهد
بین Rankها
Requestها را
بهتر همپوشانی دهد.

اما Rank
با Channel
یکی نیست.

Channel و Rank چه تفاوتی دارند؟

Memory Training چیست؟

هنگام Boot
سیستم باید
پارامترهای مناسب
برای ارتباط پایدار
با RAM
را تنظیم کند.

این فرایند
Memory Training
نامیده می شود.

Training
می تواند شامل
تنظیم Timing،
Signal Alignment
و پارامترهای
الکتریکی باشد.

Boot
→
Detect Memory
→
Train Interface
→
Verify Stable Parameters
→
Start System

CPU چگونه نوع و سرعت RAM قابل استفاده را محدود می کند؟

Memory Controller
داخل CPU
برای Standardها
و Speedهای مشخصی
طراحی می شود.

بنابراین CPU
می تواند روی:

• DDR Generation،
• تعداد Channel،
• Data Rate رسمی،
• Memory Capacity،
• ECC Support،
• و نوع Moduleهای پشتیبانی شده

محدودیت ایجاد کند.

اگر Memory Controller داخل CPU است، Motherboard چه نقشی دارد؟

Motherboard
مسیرهای الکتریکی،
Slotها،
BIOS/UEFI
و Power Delivery
مورد نیاز RAM
را فراهم می کند.

بنابراین:

Memory Compatibility
=
CPU IMC
+
Motherboard Design
+
BIOS / Firmware
+
Memory Module

وجود پشتیبانی
در CPU
به تنهایی
تضمین نمی کند
هر Module
روی هر Board
با هر Speed
کار کند.

JEDEC، XMP و EXPO چه ارتباطی با Memory Controller دارند؟

Memory Moduleها
دارای Profile
و Timingهای
مشخصی هستند.

JEDEC
Standardهای پایه
Memory را تعریف می کند.

Profileهایی مانند:

XMP
/
EXPO

می توانند
تنظیمات Performance
بالاتر از Profileهای پایه
ارائه دهند.

استفاده از آنها
به CPU،
Motherboard،
Firmware
و قابلیت Memory
وابسته است.

Memory Overclocking چه فشاری روی CPU ایجاد می کند؟

افزایش Memory Data Rate
فقط RAM
را درگیر نمی کند.

IMC داخل CPU
نیز باید
با Speed بالاتر
Interface
را پایدار نگه دارد.

بنابراین Maximum Stable Memory Speed
می تواند به:

• کیفیت IMC همان CPU،
• تعداد DIMMها،
• تعداد Rankها،
• Motherboard Layout،
• Voltage،
• و Firmware

وابسته باشد.

چرا استفاده از DIMMهای بیشتر می تواند Speed پایدار را کاهش دهد؟

اضافه شدن Moduleهای بیشتر
Load الکتریکی
Interface حافظه
را افزایش می دهد.

در نتیجه
دستیابی به Data Rate
بسیار بالا
می تواند دشوارتر شود.

More DIMMs / Ranks
→
More Electrical Load
→
Potentially Lower Stable Memory Speed

به همین دلیل
Specification رسمی CPU
ممکن است برای Configurationهای
مختلف Memory
Speedهای متفاوتی
تعریف کند.

RAM لحیم شده در لپ تاپ چگونه روی Channel اثر می گذارد؟

در Laptopهای جدید
Memory ممکن است:

• کاملاً Soldered،
• کاملاً Module-Based،
• یا ترکیبی از Soldered و SO-DIMM

باشد.

تعداد Slot
به تنهایی
تعیین نمی کند
سیستم Single Channel
یا Dual Channel است.

باید Topology واقعی
Memory Platform
بررسی شود.

چرا Dual Channel برای Integrated GPU اهمیت زیادی دارد؟

Integrated GPU
معمولاً از همان
System Memory
به عنوان Graphics Memory
استفاده می کند.

بنابراین CPU Coreها
و iGPU
ممکن است
Memory Bandwidth
را به اشتراک بگذارند.

CPU
+
Integrated GPU
→
Shared System Memory

در چنین شرایطی
افزایش Memory Bandwidth
از طریق Configuration مناسب
می تواند Performance
iGPU را به شکل قابل توجهی
تحت تاثیر قرار دهد.

چه Workloadهایی به Memory Bandwidth یا Latency حساس هستند؟

همه برنامه ها
به یک اندازه
به RAM حساس نیستند.

Workloadهای احتمالی حساس:

• Integrated Graphics،
• Scientific Computing،
• Data Processing،
• Compression در بعضی الگوریتم ها،
• Simulation،
• Virtualization،
• بعضی Gameها،
• و Workloadهای دارای Working Set بزرگ.

در مقابل
بعضی Workloadها
ممکن است بیشتر
Compute-Bound باشند
و افزایش Bandwidth
اثر کمی داشته باشد.

Capacity مهم تر است یا Speed؟

اگر RAM کافی نباشد،
سیستم ممکن است
به Paging
یا Swap
متکی شود.

این وضعیت
معمولاً هزینه Performance
بسیار بیشتری
از اختلاف کوچک
Memory Speed دارد.

Insufficient Capacity
→
Storage Paging
→
Very High Latency

بنابراین در عمل:

ابتدا Capacity کافی،
سپس Configuration مناسب
و بعد Speed/Timing
اهمیت پیدا می کنند.

Cache چگونه فشار روی Memory Controller را کاهش می دهد؟

اگر Data
در Cache
پیدا شود،
Request
به Main Memory
ارسال نمی شود.

Cache Hit
→
No DRAM Access Required

Cache Hit Rate بالاتر
می تواند:

• Memory Traffic را کاهش دهد،
• Latency متوسط را کاهش دهد،
• و فشار روی Memory Controller را کمتر کند.

چرا Coreهای بیشتر به Memory System قوی تر نیاز دارند؟

با افزایش Coreها،
تعداد Threadهایی
که همزمان
Data درخواست می کنند
می تواند افزایش یابد.

More Active Cores
→
More Potential Memory Requests
→
Higher Memory Traffic

اگر Bandwidth
به محدودیت برسد،
اضافه کردن Core
ممکن است Scaling
کمتری ایجاد کند.

Memory-Bound یعنی چه؟

Workload زمانی
Memory-Bound
است که Performance آن
بیشتر توسط
Memory System
محدود شود
تا Execution Capacity CPU.

برای مثال
CPU ممکن است
Execution Unit آزاد
داشته باشد،
اما Data هنوز
از Memory
نرسیده باشد.

Execution Resources Ready
+
Data Not Ready
→
Memory Stall

عوامل اصلی Performance حافظه در یک نگاه

هنگام بررسی لپ تاپ یا سیستم استوک چه چیزهایی را درباره RAM بررسی کنیم؟

DRAM چیست؟

DRAM Cell چیست؟

چرا DRAM حافظه Volatile است؟

DRAM
برای حفظ اطلاعات
به انرژی الکتریکی نیاز دارد.

با قطع برق،
اطلاعات ذخیره شده
در حافظه از بین می روند.

به چنین حافظه ای:

Volatile Memory

یا «حافظه فرار»
گفته می شود.

چرا DRAM باید Refresh شود؟

بار الکتریکی ذخیره شده
در Cellهای DRAM
برای همیشه باقی نمی ماند.

به مرور زمان
بخشی از این بار
نشت می کند.

Stored Charge
→
Leakage
→
Charge Decay

بنابراین داده ها
باید به صورت دوره ای
بازخوانی و بازیابی شوند.

این عملیات:

Refresh

نام دارد.

سلول های DRAM چگونه سازمان دهی می شوند؟

Cellهای حافظه
به صورت آرایه هایی
سازمان دهی می شوند.

برای درک ساده،
می توان آن را
شبیه جدولی بزرگ
از Row و Column تصور کرد.

DRAM Array
=
Rows
×
Columns

اما ساختار واقعی
چندلایه تر از یک جدول ساده است.

Row چیست؟

Column چیست؟

Memory Bank چیست؟

Bank-Level Parallelism چیست؟

اگر یک Bank
مشغول انجام یک عملیات داخلی باشد،
ممکن است Bank دیگری
بتواند عملیات متفاوتی
را پیش ببرد.

این قابلیت
امکان همپوشانی بخشی
از عملیات حافظه را فراهم می کند.

Bank 0
→
Operation A

Bank 1
→
Operation B

Bank-Level Parallelism
→
Better Memory Throughput

Bank Group چیست؟

Row Buffer چیست؟

ACTIVATE چه کاری انجام می دهد؟

برای دسترسی به Row
ابتدا فرمان:

ACTIVATE

صادر می شود.

این فرمان
Row مورد نظر را
در Bank مربوطه
فعال می کند.

سپس باید
زمان مشخصی
پیش از دسترسی Column
سپری شود.

بخشی از این فاصله زمانی
با پارامتری مانند:

tRCD

مرتبط است.

PRECHARGE چیست؟

اگر بخواهیم
در یک Bank
از Row فعلی
به Row دیگری برویم،
Row قبلی باید بسته شود
و Bank برای فعال کردن
Row جدید آماده شود.

این فرآیند
با:

PRECHARGE

مرتبط است.

زمان مورد نیاز آن
با Timingهایی مانند:

tRP

ارتباط دارد.

Row Hit چیست؟

اگر داده بعدی
در همان Row
که اکنون باز است قرار داشته باشد،
نیازی به بستن Row
و فعال کردن Row جدید نیست.

این وضعیت:

Row Hit

نامیده می شود.

Requested Data
∈
Already Open Row
→
Row Hit

Row Hit
معمولاً نسبت به دسترسی
به Row جدید
سریع تر است.

Row Miss و Row Conflict چیست؟

اگر Row مورد نیاز
در Bank باز نباشد،
دسترسی پیچیده تر می شود.

مخصوصاً اگر Row دیگری
در همان Bank باز باشد،
ابتدا باید Row فعلی بسته
و سپس Row جدید فعال شود.

Open Row A
→
Need Row B
→
PRECHARGE
→
ACTIVATE Row B
→
READ

این وضعیت
می تواند Latency بیشتری
نسبت به Row Hit داشته باشد.

Burst در حافظه چیست؟

Burst Length چیست؟

Burst Length
یا
BL
تعداد واحدهای انتقال داده
در یک Burst
را توصیف می کند.

به صورت مفهومی:

One Memory Command
→
Multiple Sequential Data Transfers

افزایش کارایی انتقال بلوکی
یکی از دلایل اهمیت Burst
در حافظه های DDR است.

Prefetch در DRAM چیست؟

حافظه DDR
از معماری Prefetch
برای انتقال چند بیت داده
از آرایه داخلی
به بخش ورودی و خروجی
استفاده می کند.

این مفهوم
با CPU Hardware Prefetcher
که در فصل های قبلی بررسی کردیم
یکسان نیست.

Prefetch در DDR4 چگونه است؟

DDR4
از معماری:

8n Prefetch

استفاده می کند.

یعنی مسیر داخلی
امکان آماده سازی
چند واحد داده
برای انتقال سریع تر
از رابط خارجی را فراهم می کند.

DDR5 از چه Prefetch استفاده می کند؟

DDR5 نیز
از ساختار:

8n Prefetch

استفاده می کند.

بنابراین افزایش Data Rate
در DDR5
صرفاً نتیجه دو برابر کردن
Prefetch نسبت به DDR4 نیست.

تغییرات معماری دیگری
نیز در DDR5
نقش دارند.

معماری DDR4 چه ویژگی هایی دارد؟

DDR4
نسبت به نسل های قبل
تغییراتی در:

• Data Rate،
• Bank Architecture،
• Bank Groups،
• Voltage،
• Signal Integrity،
• و ظرفیت حافظه

ایجاد کرد.

DDR4
برای سال ها
حافظه اصلی بسیاری از:

• Desktopها،
• Laptopها،
• Workstationها،
• Serverها،
• All-in-Oneها،
• و Mini PCها

بوده است.

DDR5 چه تغییر مهمی ایجاد کرد؟

DDR5
فقط نسخه ای از DDR4
با Clock بالاتر نیست.

تغییرات مهمی
در ساختار داخلی
و رابط ماژول حافظه
ایجاد شده است.

از جمله:

• Data Rate بالاتر،
• Bankهای بیشتر،
• Bank Groupهای بیشتر،
• Burst Length بزرگ تر،
• تقسیم کانال ماژول به Sub-Channel،
• On-Die ECC،
• و تغییرات در Power Management.

Sub-Channel در DDR5 چیست؟

Burst Length در DDR4 و DDR5 چه تفاوتی دارد؟

Burst Length چه ارتباطی با Cache Line دارد؟

CPUها معمولاً داده را
در واحدهایی به نام Cache Line
میان سطوح حافظه جابه جا می کنند.

در بسیاری از معماری های رایج:

Cache Line
=
64 Bytes

طراحی Burst
و عرض کانال حافظه
به گونه ای انجام می شود
که انتقال بلوک های داده
با نیازهای سیستم
هماهنگ باشد.

On-Die ECC در DDR5 چیست؟

PMIC در DDR5 چیست؟

ولتاژ پایه DDR4 و DDR5 چه تفاوتی دارد؟

به طور معمول،
ولتاژ اسمی پایه DDR4
حدود:

DDR4
→
1.2 V

و برای DDR5
حدود:

DDR5
→
1.1 V

است.

البته پروفایل های Performance
و Memory Overclocking
می توانند از ولتاژهای دیگری
استفاده کنند.

چرا DDR5 با وجود MT/s بیشتر الزاماً Latency بسیار کمتری ندارد؟

افزایش Data Rate
عمدتاً ظرفیت انتقال داده
را افزایش می دهد.

اما Latency واقعی
حاصل مجموعه ای از عوامل است:

Memory Controller
+
Timings
+
DRAM Core Operations
+
Row State
+
Data Rate
+
Platform Architecture

بنابراین:

Higher MT/s
≠
Automatically Lower Total Latency

Refresh چگونه روی Performance اثر می گذارد؟

هنگام انجام برخی عملیات Refresh،
بخشی از منابع DRAM
برای مدت کوتاهی
درگیر نگهداری داده می شوند.

در این مدت
دسترسی عادی
می تواند محدود شود.

Refresh Activity
→
Temporary Resource Occupation
→
Potential Access Delay

کنترلرهای مدرن
تلاش می کنند
این عملیات را
تا حد ممکن کارآمد مدیریت کنند.

دما چه ارتباطی با Refresh دارد؟

رفتار نشت بار
در DRAM
به شرایط فیزیکی تراشه
از جمله Temperature
وابسته است.

در شرایط دمایی بالاتر،
نگهداری قابل اعتماد داده
می تواند به سیاست های Refresh
متفاوتی نیاز داشته باشد.

این یکی از نمونه هایی است
که نشان می دهد
Temperature فقط مسئله CPU و GPU نیست؛
حافظه نیز یک قطعه الکترونیکی
وابسته به شرایط حرارتی است.

Rowhammer چیست؟

Memory Controller درخواست ها را چگونه زمان بندی می کند؟

CPU
می تواند تعداد زیادی
درخواست حافظه تولید کند.

Memory Controller
الزاماً آنها را
دقیقاً به ترتیب ورود
اجرا نمی کند.

کنترلر ممکن است
ترتیب برخی درخواست ها
را برای استفاده بهتر
از:

• Open Rows،
• Bank Parallelism،
• Bus Availability،
• Timing Constraints،
• و Read / Write Efficiency

تغییر دهد.

Read و Write در DRAM چه تفاوتی دارند؟

در Read،
داده از DRAM
به سمت Memory Controller
منتقل می شود.

DRAM
→
Memory Controller
→
CPU

در Write،
جهت انتقال برعکس است.

CPU
→
Memory Controller
→
DRAM

تغییر جهت Bus
و محدودیت های Timing
می توانند هزینه داشته باشند.

چرا Memory Controller ممکن است Writeها را گروه بندی کند؟

تغییر مداوم
میان Read و Write
می تواند باعث سربار
روی Bus شود.

بنابراین کنترلر
می تواند در شرایط مناسب
چند Write
را در یک بازه
پشت سر هم انجام دهد.

Read Phase
→
Bus Turnaround
→
Write Phase

این نوع Scheduling
به استفاده بهتر
از رابط حافظه کمک می کند.

Latency واقعی RAM فقط CL نیست

زمانی که CPU
داده ای را درخواست می کند،
تاخیر نهایی می تواند شامل
چند مرحله باشد.

CPU Request
→
Cache Miss
→
Memory Controller Queue
→
DRAM Scheduling
→
Row Access
→
Column Access
→
Data Transfer
→
CPU

بنابراین عدد CL
فقط بخشی
از کل Memory Access Latency است.

دسترسی Sequential و Random چه تفاوتی برای RAM دارند؟

در دسترسی
Sequential
داده های نزدیک به هم
با الگوی قابل پیش بینی
خوانده می شوند.

در دسترسی
Random
آدرس های مورد نیاز
ممکن است در بخش های پراکنده
حافظه قرار داشته باشند.

دسترسی Sequential
معمولاً فرصت بیشتری
برای:

• Prefetch،
• Row Locality،
• Burst Transfer،
• و استفاده موثر از Bandwidth

فراهم می کند.

مقایسه مفهومی DDR4 و DDR5

آیا DDR4 و DDR5 قابل جایگزینی با یکدیگر هستند؟

خیر.

نسل های DDR
فقط از نظر سرعت
متفاوت نیستند.

تفاوت هایی در:

• ساختار الکتریکی،
• Pinout،
• Voltage،
• Memory Controller Support،
• و طراحی Slot

وجود دارد.

بنابراین نوع RAM
باید با CPU
و مادربرد
سازگار باشد.

LPDDR چه ارتباطی با این معماری دارد؟

در لپ تاپ های باریک
و دستگاه های کم مصرف،
ممکن است به جای DIMMهای معمولی
از خانواده:

LPDDR
=
Low Power Double Data Rate

استفاده شود.

LPDDR
برای اهدافی مانند:

• کاهش مصرف انرژی،
• پهنای باند مناسب،
• و طراحی فشرده

توسعه یافته است.

اما ساختار Channel،
Package
و قابلیت ارتقا
می تواند با DDR DIMMهای معمولی
متفاوت باشد.

کدام ویژگی RAM برای کدام Workload مهم تر است؟

Memory Topology چیست؟

UMA چیست؟

NUMA چیست؟

NUMA Node چیست؟

Local Memory چیست؟

Local Memory
حافظه ای است
که از دید یک NUMA Node
از مسیر مستقیم تر
یا نزدیک تری
قابل دسترسی است.

Core
→
Local Memory Controller
→
Local RAM

این مسیر
معمولاً Latency کمتری
نسبت به دسترسی Remote دارد.

Remote Memory چیست؟

Remote Memory
حافظه ای است
که به Node دیگری
نزدیک تر است.

برای دسترسی به آن،
درخواست ممکن است
از یک Interconnect اضافی
عبور کند.

CPU Node 0
→
Interconnect
→
Memory Controller Node 1
→
RAM Node 1

NUMA در سیستم Multi-Socket چگونه شکل می گیرد؟

فرض کنید یک Server
دارای دو CPU Socket باشد.

هر CPU
Memory Controller
و کانال های حافظه خودش را دارد.

Socket 0
→
Memory Channels
→
RAM 0

Socket 1
→
Memory Channels
→
RAM 1

اما دو CPU
از طریق یک لینک پرسرعت
به یکدیگر متصل هستند.

بنابراین CPU 0
می تواند به RAM متصل
به CPU 1 نیز دسترسی داشته باشد،
اما این دسترسی
Remote محسوب می شود.

Inter-Socket Interconnect چیست؟

نمونه هایی از ارتباط میان CPUها

نام و معماری این لینک
به پلتفرم و نسل پردازنده
بستگی دارد.

نمونه های شناخته شده شامل:

Intel UPI

AMD Infinity Fabric

هستند.

جزئیات دقیق
پهنای باند،
تعداد لینک ها
و Topology
بین نسل های مختلف
متفاوت است.

Memory Affinity چیست؟

CPU Affinity چیست؟

سیستم عامل
می تواند Threadها
را میان Coreهای مختلف
جابه جا کند.

CPU Affinity
مکانیزمی است
که می تواند اجرای Process
یا Thread را
به مجموعه مشخصی
از CPUها یا Coreها
محدود یا ترجیح دهد.

این قابلیت
در برخی Workloadهای حساس
برای کنترل Locality
مفید است.

Thread Migration چگونه Locality را خراب می کند؟

فرض کنید یک Thread
ابتدا روی Node 0 اجرا شود
و حافظه مورد نیازش
نیز روی Node 0
تخصیص پیدا کند.

Thread
→
Node 0
→
Local Memory

اگر بعداً Scheduler
همان Thread را
به Node 1 منتقل کند،
داده ها الزاماً
همراه Thread جابه جا نمی شوند.

Thread
→
Node 1
→
Remote Access
→
Memory on Node 0

در نتیجه
Memory Latency
می تواند افزایش پیدا کند.

First-Touch Policy چیست؟

NUMA-aware Software چیست؟

نرم افزار
NUMA-aware
از ساختار NUMA سیستم
آگاه است
و تلاش می کند:

• Threadها را در محل مناسب اجرا کند،
• Memory را نزدیک Thread مصرف کننده قرار دهد،
• Remote Access را کاهش دهد،
• داده را میان Nodeها مناسب تقسیم کند،
• و از Bandwidth حافظه هر Node بهتر استفاده کند.

NUMA فقط مسئله Latency نیست

هر Node
معمولاً Memory Channelهای
خودش را دارد.

بنابراین توزیع مناسب داده
می تواند امکان استفاده
از مجموع Bandwidth
چند Memory Controller
را فراهم کند.

اگر تمام داده ها
روی یک Node متمرکز شوند،
ممکن است کانال های حافظه
همان Node
به Bottleneck تبدیل شوند.

Balanced Memory Placement
→
Multiple Memory Controllers
→
Higher Aggregate Bandwidth

چرا نحوه نصب RAM در Server اهمیت زیادی دارد؟

در یک Server چندسوکته،
نصب تمام DIMMها
فقط کنار یک CPU
می تواند Topology نامتعادلی
ایجاد کند.

علاوه بر ظرفیت،
باید نحوه پر شدن:

• Socketها،
• Memory Channelها،
• DIMM Slotها،
• و NUMA Nodeها

نیز بررسی شود.

سیستم عامل چگونه NUMA را مدیریت می کند؟

سیستم عامل مدرن
می تواند Topology سخت افزار
را شناسایی کند.

Scheduler
و Memory Manager
تلاش می کنند
تصمیم هایی درباره:

• محل اجرای Thread،
• محل تخصیص Memory Page،
• Load Balancing،
• Thread Migration،
• و Memory Locality

اتخاذ کنند.

اما سیستم عامل
همیشه نمی تواند
رفتار و نیاز آینده برنامه
را کاملاً پیش بینی کند.

NUMA چرا برای Database مهم است؟

Databaseهای بزرگ
می توانند:

• حافظه بسیار زیادی مصرف کنند،
• Threadهای متعدد داشته باشند،
• Cacheهای نرم افزاری بزرگ ایجاد کنند،
• و حجم بالایی از Memory Access تولید کنند.

در چنین شرایطی،
NUMA Topology
می تواند روی:

• Latency،
• Throughput،
• Scalability،
• و Tail Latency

تاثیر بگذارد.

NUMA چه ارتباطی با Virtualization دارد؟

Hypervisor
ماشین های مجازی
را روی منابع فیزیکی Host
اجرا می کند.

اگر Host
دارای چند NUMA Node باشد،
محل قرار گرفتن:

• vCPUها،
• حافظه VM،
• و Threadهای Hypervisor

می تواند روی Performance
ماشین مجازی اثر بگذارد.

vNUMA چیست؟

معماری Chiplet چه ارتباطی با Memory Topology دارد؟

در برخی CPUهای مدرن،
تمام Coreها
روی یک Die یکپارچه
قرار ندارند.

پردازنده می تواند
از چند Die
یا Chiplet
تشکیل شده باشد.

CPU Package
→
Multiple Compute Dies
+
I/O Components

در چنین طراحی هایی
فاصله منطقی
میان Core،
Cache،
I/O Die
و Memory Controller
می تواند متفاوت باشد.

آیا حتی داخل یک CPU هم Latency می تواند متفاوت باشد؟

بله.

در CPUهای پیچیده،
Coreها،
Cache Sliceها،
Memory Controllerها
و I/O
از طریق Interconnect داخلی
به یکدیگر متصل هستند.

بسته به معماری،
مسیر میان دو Core
یا میان Core و Memory Controller
می تواند متفاوت باشد.

بنابراین مفهوم:

Data Locality

فقط مخصوص Serverهای دوپردازنده ای نیست.

Core Cluster چگونه روی Performance اثر می گذارد؟

برخی پردازنده ها
Coreها را در Clusterهای مشخص
سازمان دهی می کنند.

Coreهای یک Cluster
ممکن است:

• Cache مشترک داشته باشند،
• مسیر ارتباطی کوتاه تری داشته باشند،
• یا برای ارتباط با Cluster دیگر از Fabric عبور کنند.

به همین دلیل
Thread Placement
می تواند در برخی Workloadها
روی Performance اثر بگذارد.

چرا Threadهایی که زیاد با هم داده رد و بدل می کنند بهتر است نزدیک باشند؟

اگر دو Thread
دائماً روی داده های مشترک
کار کنند،
فاصله زیاد توپولوژیک
میان آنها
می تواند ترافیک بیشتری
در Interconnect ایجاد کند.

Thread A
↔
Shared Data
↔
Thread B

اگر این Threadها
روی Coreهایی قرار گیرند
که ارتباط مناسب تری دارند،
هزینه تبادل داده
می تواند کاهش پیدا کند.

Cache Coherence چه ارتباطی با NUMA دارد؟

اگر چند CPU یا Core
روی داده مشترک کار کنند،
Cacheهای آنها
باید درباره وضعیت
Cache Lineهای مشترک
هماهنگ باشند.

در سیستم بزرگ،
پیام های Coherence
ممکن است از Interconnect
میان Nodeها عبور کنند.

More Shared Writes
→
More Coherence Traffic
→
More Interconnect Pressure

بنابراین NUMA Performance
فقط به محل RAM محدود نیست؛
الگوی اشتراک داده
میان Coreها نیز اهمیت دارد.

False Sharing در سیستم بزرگ چرا دردسرساز می شود؟

ممکن است دو Thread
متغیرهای کاملاً متفاوتی
را تغییر دهند،
اما این متغیرها
داخل یک Cache Line مشترک
قرار گرفته باشند.

در این حالت،
Cache Line
ممکن است مرتباً
میان Coreها جابه جا شود.

Independent Variables
+
Same Cache Line
→
False Sharing

اگر Coreها
روی Nodeهای دورتر باشند،
هزینه این ترافیک
می تواند بیشتر شود.

NUMA برای Workstation چه اهمیتی دارد؟

Workstationهای حرفه ای
ممکن است تعداد Core زیاد،
RAM بسیار بالا
و Workloadهای سنگین داشته باشند.

کاربردهایی مانند:

• رندرینگ CPU،
• Simulation،
• تحلیل مهندسی،
• Scientific Computing،
• Virtualization،
• پردازش داده،
• و برخی نرم افزارهای تولید محتوا

می توانند از Memory Topology
تاثیر بگیرند.

آیا کاربر دسکتاپ معمولی باید نگران NUMA باشد؟

در بسیاری از سیستم های
دسکتاپ تک سوکته معمولی،
سیستم عامل و Firmware
بیشتر جزئیات Topology
را بدون نیاز به دخالت کاربر
مدیریت می کنند.

بنابراین برای کاربری عادی،
NUMA معمولاً مسئله ای نیست
که نیاز به تنظیم دستی داشته باشد.

اهمیت آن بیشتر
با افزایش:

• تعداد Core،
• تعداد Socket،
• حجم RAM،
• تعداد VM،
• و اندازه Workload

افزایش پیدا می کند.

چگونه بفهمیم NUMA به Bottleneck تبدیل شده است؟

تشخیص دقیق
نیازمند Profiling
و ابزارهای مناسب پلتفرم است.

نشانه های قابل بررسی شامل:

• Remote Memory Access بالا،
• عدم توازن مصرف RAM میان Nodeها،
• Memory Bandwidth نامتعادل،
• Thread Migration زیاد،
• افت Scaling با افزایش Thread،
• Interconnect Traffic بالا،
• و تفاوت Performance با تغییر Affinity

هستند.

چه ابزارهایی برای مشاهده NUMA وجود دارند؟

بسته به سیستم عامل
ابزارهای مختلفی
برای مشاهده Topology وجود دارند.

نمونه های شناخته شده:

Windows
→
Task Manager
/
Performance Monitoring Tools

Linux
→
lscpu
/
numactl
/
numastat

ابزارهای Profiling
تخصصی پردازنده
نیز می توانند
اطلاعات بسیار عمیق تری
درباره Memory Access
و NUMA Behavior ارائه دهند.

ابزارهایی مانند numactl چه کاری انجام می دهند؟

در سیستم های Linux،
ابزارهایی مانند
numactl
می توانند برای مشاهده
یا کنترل سیاست های:

• CPU Placement،
• Memory Placement،
• Node Binding،
• و Memory Interleaving

استفاده شوند.

استفاده دستی از این ابزارها
باید بر اساس Profiling
و شناخت Workload انجام شود.

Memory Interleaving در NUMA چیست؟

یکی از سیاست های ممکن
این است که Memory Pageها
میان چند Node
توزیع شوند.

به صورت مفهومی:

Page 0
→
Node 0

Page 1
→
Node 1

Page 2
→
Node 0

Page 3
→
Node 1

این روش
می تواند برای برخی Workloadها
Bandwidth را بهتر توزیع کند،
اما برای همه برنامه ها
بهترین سیاست نیست.

چرا NUMA برای CPU Scaling مهم است؟

فرض کنید تعداد Coreها
دو برابر شود.

اگر زیرسیستم حافظه
نتواند داده کافی
به Coreهای جدید برساند،
Performance دو برابر نمی شود.

معماری NUMA
با توزیع:

• Memory Controller،
• Memory Channel،
• RAM Capacity،
• و Memory Bandwidth

در بخش های مختلف سیستم،
امکان ساخت پردازنده ها
و Serverهای بزرگ تر
را فراهم می کند.

هنگام خرید Server یا Workstation چه مشخصاتی را بررسی کنیم؟

PCI Express چیست؟

PCIe چرا Point-to-Point است؟

PCIe
برخلاف برخی Busهای قدیمی،
از لینک های اختصاصی
میان دو Endpoint ارتباطی
استفاده می کند.

Device A
↔
PCIe Link
↔
Device B

بنابراین یک Link PCIe
مستقیماً دو بخش
از ساختار PCIe
را به یکدیگر متصل می کند.

PCIe Lane چیست؟

Differential Pair چیست؟

PCIe
از سیگنالینگ تفاضلی
استفاده می کند.

به جای انتقال سیگنال
روی تنها یک سیم،
اطلاعات از طریق
یک جفت مسیر الکتریکی
منتقل می شوند.

Differential Signaling
→
Better Noise Immunity
+
High-Speed Signal Integrity

این روش
برای ارتباطات بسیار پرسرعت
اهمیت زیادی دارد.

Full Duplex در PCIe یعنی چه؟

چون مسیر TX و RX
مستقل هستند،
داده می تواند
همزمان در دو جهت
منتقل شود.

CPU
→
GPU

GPU
→
CPU

این ویژگی:

Full Duplex

نام دارد.

x1، x4، x8 و x16 یعنی چه؟

چند Lane
می توانند
کنار یکدیگر قرار بگیرند
و یک Link عریض تر بسازند.

x1
=
1 Lane

x4
=
4 Lanes

x8
=
8 Lanes

x16
=
16 Lanes

هرچه تعداد Laneها بیشتر باشد،
پهنای باند بالقوه Link
نیز بیشتر می شود.

PCIe Link چگونه تشکیل می شود؟

هنگام راه اندازی سیستم،
دو طرف Link
قابلیت های یکدیگر
را شناسایی می کنند.

سپس درباره مواردی مانند:

• Generation،
• Link Speed،
• Link Width،
• و وضعیت Laneها

توافق می شود.

این فرآیند
بخشی از:

Link Training

است.

Root Complex چیست؟

PCIe Endpoint چیست؟

تجهیزی که
در انتهای یک ساختار PCIe
قرار می گیرد
معمولاً:

Endpoint

نامیده می شود.

برای مثال:

• GPU،
• NVMe Controller،
• Network Adapter،
• Capture Card

می توانند PCIe Endpoint باشند.

PCIe Switch چیست؟

CPU PCIe Lanes چیست؟

بسیاری از CPUهای مدرن
تعدادی PCIe Lane
مستقیماً در اختیار سیستم قرار می دهند.

این Laneها
معمولاً برای تجهیزات
پرسرعت مانند:

• GPU،
• NVMe SSD،
• و در پلتفرم های حرفه ای Acceleratorها

استفاده می شوند.

CPU
→
Direct PCIe Lanes
→
Device

Chipset PCIe Lanes چیست؟

Chipset
نیز می تواند
PCIe Laneهای اضافی
برای اتصال تجهیزات فراهم کند.

اما Chipset
خودش از طریق
یک لینک مشخص
به CPU متصل است.

Device
→
Chipset
→
Chipset-to-CPU Link
→
CPU

بنابراین چند Device
متصل به Chipset
می توانند بخشی از مسیر بالادستی
را با یکدیگر به اشتراک بگذارند.

اتصال مستقیم به CPU با اتصال از طریق Chipset چه تفاوتی دارد؟

نسل های PCIe چه تفاوتی دارند؟

با هر نسل جدید PCIe،
نرخ انتقال هر Lane
افزایش یافته است.

* اعداد PCIe 6.0
به صورت تقریبی
و با در نظر گرفتن ساختار
FLIT و FEC بیان شده اند؛
نرخ کاربردی دقیق
به سربار Protocol
و نوع ترافیک وابسته است.

GT/s چیست؟

Encoding در PCIe چیست؟

داده روی Link
به شکل خام
و بدون ساختار
ارسال نمی شود.

نسل های مختلف PCIe
از روش های متفاوتی
برای Signal Encoding
استفاده کرده اند.

PCIe 3.0 تا PCIe 5.0
از:

128b / 130b Encoding

استفاده می کنند.

یعنی برای هر 128 بیت
Payload سطح Encoding،
130 بیت روی Link
منتقل می شود.

چرا PCIe 2.0 با وجود 5 GT/s فقط حدود 500 MB/s در هر Lane داشت؟

نسل های اولیه PCIe
از:

8b / 10b Encoding

استفاده می کردند.

یعنی برای انتقال
8 بیت داده،
10 بیت روی Link
منتقل می شد.

این روش
حدود 20 درصد
Encoding Overhead
ایجاد می کرد.

PCIe 6.0 چرا معماری انتقال متفاوتی دارد؟

PCIe 6.0
برای رسیدن به نرخ انتقال بالاتر
از فناوری:

PAM4
=
Pulse Amplitude Modulation 4-Level

استفاده می کند.

به جای دو سطح سیگنال،
PAM4
از چهار سطح استفاده می کند
و می تواند در هر Symbol
اطلاعات بیشتری حمل کند.

پهنای باند PCIe چگونه افزایش پیدا می کند؟

دو عامل اصلی:

• سرعت هر Lane،
• و تعداد Laneها

هستند.

Link Bandwidth
≈
Per-Lane Bandwidth
×
Number of Lanes

برای مثال
PCIe 4.0 x8
تقریباً پهنای باندی مشابه
PCIe 3.0 x16
در سطح Link دارد.

GPU چگونه از PCIe استفاده می کند؟

کارت گرافیک مجزا
معمولاً از PCIe
برای ارتباط با:

• CPU،
• System Memory،
• Driver،
• و سایر اجزای سیستم

استفاده می کند.

بسیاری از GPUهای دسکتاپ
از Linkهای x16
استفاده می کنند،
اما برخی GPUها
از نظر الکتریکی
x8 یا تعداد Lane کمتری دارند.

آیا GPU برای هر عملیات گرافیکی از PCIe به RAM سیستم مراجعه می کند؟

خیر.

GPU مجزا
معمولاً VRAM اختصاصی
خودش را دارد.

GPU
↔
Local VRAM

این حافظه
از طریق رابط بسیار پهن
مستقیماً در اختیار GPU قرار دارد.

PCIe
بیشتر برای انتقال داده
میان GPU
و سایر بخش های سیستم
استفاده می شود.

آیا x8 بودن کارت گرافیک همیشه Performance را نصف می کند؟

خیر.

نصف شدن تعداد Lane
پهنای باند نظری Link
را کاهش می دهد،
اما Performance برنامه
فقط به پهنای باند PCIe
وابسته نیست.

اگر بیشتر داده مورد نیاز GPU
در VRAM باقی بماند،
PCIe ممکن است
Bottleneck اصلی نباشد.

تاثیر واقعی
به:

• GPU،
• نسل PCIe،
• Workload،
• VRAM Capacity،
• Data Transfer Pattern،
• و Application

بستگی دارد.

SSD NVMe چگونه به PCIe متصل می شود؟

بسیاری از SSDهای NVMe
مستقیماً از PCI Express
برای ارتباط استفاده می کنند.

یک SSD رایج M.2 NVMe
معمولاً:

PCIe x4

است.

برای مثال:

PCIe 3.0 x4
→
~3.94 GB/s Raw Link Payload Capacity

PCIe 4.0 x4
→
~7.88 GB/s Raw Link Payload Capacity

PCIe 5.0 x4
→
~15.75 GB/s Raw Link Payload Capacity

NVMe و PCIe یک چیز هستند؟

خیر.

PCIe
مسیر ارتباطی
و Transport زیرساختی را فراهم می کند.

NVMe
یک Interface و Command Set
طراحی شده برای Storage
مبتنی بر حافظه Non-Volatile است.

PCIe
=
Transport / Interconnect

NVMe
=
Storage Protocol / Command Set

آیا هر M.2 یک SSD NVMe است؟

خیر.

M.2
یک Form Factor
و استاندارد اتصال فیزیکی است
که می تواند
رابط های متفاوتی را حمل کند.

بنابراین:

M.2
≠
Automatically NVMe

بعضی M.2 SSDها
می توانند SATA باشند
و برخی از PCIe/NVMe
استفاده کنند.

PCIe Bifurcation چیست؟

چرا کارت چهار SSD M.2 ممکن است بدون Bifurcation درست کار نکند؟

برخی Adapterها
چهار SSD PCIe x4
را روی یک Slot x16
قرار می دهند.

برای اینکه هر SSD
Link مستقل x4 داشته باشد،
Host باید بتواند:

x16
→
4 × x4

را ایجاد کند.

اگر Bifurcation
پشتیبانی نشود
و Adapter
PCIe Switch مستقل نداشته باشد،
ممکن است فقط بخشی از SSDها
شناسایی شوند.

Lane Sharing چیست؟

تعداد PCIe Laneها
در هر پلتفرم محدود است.

بنابراین مادربرد
ممکن است یک مجموعه Lane
را میان چند Connector
به اشتراک بگذارد.

برای مثال:

M.2 Slot
↔
Shared Resources
↔
PCIe Expansion Slot

یا:

M.2 Slot
↔
Shared Resources
↔
SATA Ports

چرا نصب کارت دوم می تواند GPU اول را از x16 به x8 تبدیل کند؟

فرض کنید CPU
برای بخش Expansion
شانزده Lane
در اختیار مادربرد قرار دهد.

مادربرد می تواند
این Laneها را:

One Device
→
x16

یا:

Two Devices
→
x8 + x8

تقسیم کند.

بنابراین با نصب Device دوم،
Link Width
کارت اول ممکن است
تغییر کند.

آیا کارت x16 در Slot x8 کار می کند؟

اگر Slot از نظر فیزیکی
امکان نصب کارت را داشته باشد
و سیستم سازگار باشد،
Device می تواند
با Link Width کمتر
کار کند.

x16 Device
→
x8 Link

PCIe
برای Negotiation
عرض Link
طراحی شده است.

PCIe نسل های مختلف با هم سازگار هستند؟

در بسیاری از موارد،
PCI Express
سازگاری نسل به نسل
را حفظ می کند.

برای مثال
یک Device PCIe 4.0
می تواند روی Host PCIe 3.0
کار کند،
اما با سرعت نسل پایین تر.

Device Gen4
+
Host Gen3
→
Gen3 Operation

چرا با افزایش نسل PCIe طراحی مادربرد سخت تر می شود؟

هرچه Data Rate
افزایش پیدا کند،
کیفیت مسیر الکتریکی
اهمیت بیشتری پیدا می کند.

عواملی مانند:

• طول Trace،
• PCB Material،
• Connector Quality،
• Impedance Control،
• Signal Loss،
• Crosstalk،
• و Noise

اهمیت بیشتری پیدا می کنند.

PCIe Retimer چیست؟

PCIe Riser چیست؟

Riser
وسیله ای برای تغییر
موقعیت فیزیکی
اتصال PCIe است.

در:

• Serverها،
• سیستم های Rackmount،
• کیس های کوچک،
• و برخی Workstationها

استفاده از Riser
رایج است.

در سرعت های بالا،
کیفیت Riser
و Signal Integrity
اهمیت زیادی دارد.

Resizable BAR چه ارتباطی با PCIe دارد؟

CPU
برای دسترسی
به منابع PCIe Device
از Address Spaceهای مشخص
استفاده می کند.

در GPUها،
فناوری هایی مانند:

Resizable BAR

اجازه می دهند
CPU بتواند
پنجره بزرگ تری
از VRAM
را در Address Space
Map کند.

این قابلیت
می تواند در برخی Workloadها
مدیریت انتقال داده
میان CPU و GPU
را کارآمدتر کند.

BAR در PCIe چیست؟

DMA چه ارتباطی با PCIe دارد؟

IOMMU چیست و چرا برای PCIe مهم است؟

IOMMU چرا برای Virtualization مهم است؟

در Virtualization،
ممکن است بخواهیم
یک PCIe Device
مستقیماً در اختیار
یک Virtual Machine
قرار گیرد.

فناوری هایی مانند:

Intel VT-d

AMD IOMMU

از سازوکارهای IOMMU
برای Isolation
و Device Assignment
استفاده می کنند.

PCIe چه ارتباطی با NUMA دارد؟

در Serverهای چندسوکته،
PCIe Device
ممکن است از نظر Topology
به یک CPU Socket
نزدیک تر باشد.

برای مثال:

GPU
→
PCIe Root Complex
→
Socket 0

اگر Thread اصلی
روی Socket 1 اجرا شود
و Memory نیز روی Node دیگری باشد،
مسیر داده
می تواند پیچیده تر شود.

PCIe Peer-to-Peer چیست؟

در برخی معماری ها،
PCIe Deviceها
می توانند داده را
با دخالت کمتر CPU
میان یکدیگر منتقل کنند.

PCIe Device A
↔
PCIe Fabric
↔
PCIe Device B

این قابلیت
در Workloadهای:

• GPU Computing،
• Storage،
• Networking،
• و Accelerator-heavy Systems

اهمیت پیدا می کند.

چرا مسیر مستقیم میان Deviceها اهمیت دارد؟

در روش سنتی،
ممکن است داده
ابتدا وارد System Memory
شود
و سپس به Device دیگر منتقل گردد.

Device A
→
System Memory
→
Device B

فناوری های پیشرفته
در برخی پلتفرم ها
تلاش می کنند
مراحل میانی را کاهش دهند.

Fewer Data Copies
→
Lower CPU Overhead
+
Potentially Lower Latency

کارت شبکه پرسرعت چرا به PCIe سریع نیاز دارد؟

کارت های شبکه
با سرعت بالا
می توانند حجم زیادی
از داده را در هر ثانیه
وارد یا خارج کنند.

اگر PCIe Link
نتواند این ترافیک را حمل کند،
رابط PCIe
به Bottleneck تبدیل می شود.

این موضوع
در NICهای:

25 GbE
/
40 GbE
/
100 GbE
/
200 GbE
/
Higher-Speed Networking

اهمیت بیشتری پیدا می کند.

چرا بعضی Capture Cardها به x4 یا x8 نیاز دارند؟

Capture Card
ممکن است چند Stream
ویدئویی با Resolution
و Frame Rate بالا
دریافت کند.

حجم داده خام
می تواند زیاد باشد.

بنابراین سازنده
Link Width مشخصی
برای کارت تعیین می کند.

نصب کارت
در Slot با Lane کمتر
ممکن است Performance
یا قابلیت های آن
را محدود کند.

PCIe در سیستم های AI و محاسبات سنگین چه اهمیتی دارد؟

در سیستم های دارای
چند GPU یا Accelerator،
حجم زیادی از داده
ممکن است میان:

• CPU و GPU،
• RAM و VRAM،
• Storage و GPU،
• Network و GPU،
• و Acceleratorهای مختلف

جابه جا شود.

بنابراین PCIe Topology
می تواند بخش مهمی
از طراحی سیستم باشد.

چه زمانی PCIe به Bottleneck تبدیل می شود؟

PCIe زمانی Bottleneck می شود
که Device
بخواهد داده بیشتری
از ظرفیت موثر Link
منتقل کند.

Required Data Rate
>
Available PCIe Throughput
→
PCIe Bottleneck

اما Bottleneck
همیشه فقط به Bandwidth مربوط نیست.

Latency،
Protocol Overhead،
Queueing،
Topology
و Software Stack
نیز می توانند موثر باشند.

هنگام نصب کارت PCIe چه چیزهایی را باید بررسی کرد؟

• اندازه فیزیکی Slot،
• تعداد Lane الکتریکی Slot،
• نسل PCIe Slot،
• نسل PCIe Device،
• Lane Sharing،
• Bifurcation Support،
• اتصال Slot به CPU یا Chipset،
• تغییر Link Width با نصب Deviceهای دیگر،
• محدودیت های Firmware،
• و نیاز پهنای باند Device.

چرا Block Diagram مادربرد بسیار مهم است؟

جدول مشخصات مادربرد
ممکن است فقط تعداد Slotها
و Portها را نشان دهد.

اما Block Diagram
مشخص می کند
این Portها
واقعاً چگونه
به CPU و Chipset
متصل شده اند.

CPU
├─ GPU x16
├─ NVMe x4
└─ Chipset Link
├─ USB
├─ SATA
├─ Network
└─ Additional PCIe

این اطلاعات
برای Workstation،
Server
و سیستم های دارای
چند Device پرسرعت
بسیار ارزشمند است.

PCIe در لپ تاپ چه نقشی دارد؟

در لپ تاپ
نیز بسیاری از تجهیزات
می توانند از PCIe استفاده کنند.

برای مثال:

• GPU مجزا،
• SSD NVMe،
• Wi-Fi Controller در برخی طراحی ها،
• Thunderbolt / USB4 Controller در برخی پلتفرم ها،
• و سایر کنترلرهای داخلی.

اما تعداد Lane،
Routing
و قابلیت ارتقا
در لپ تاپ
معمولاً توسط طراحی سازنده
محدودتر است.

PCIe در Mini PC و All-in-One چه اهمیتی دارد؟

سیستم های کوچک
فضای PCB
و توان محدودی دارند.

بنابراین سازنده
باید Laneهای موجود
را میان:

• NVMe،
• Network،
• Wireless،
• External I/O،
• و سایر Controllerها

تقسیم کند.

به همین دلیل
دو دستگاه با CPU مشابه
می توانند
قابلیت I/O متفاوتی داشته باشند.