Но с покорением новых вершин показателей частоты, наращивать её стало тяжелее, так как это сказывалось на увеличении TDP процессоров. Поэтому разработчики стали растить процессоры в ширину, а именно добавлять ядра, так и возникло понятие многоядерности.

Ещё буквально 6-7 лет назад, о многоядерности процессоров практически не было слышно. Нет, многоядерные процессоры от той же компании IBM существовали и ранее, но появление первого двухъядерного процессора для настольных компьютеров , состоялось лишь в 2005 году, и назывался данный процессор Pentium D. Также, в 2005 году был выпущен двухъядерник Opteron от AMD, но для серверных систем.

В данной статье, мы не будем подробно вникать в исторические факты, а будем обсуждать современные многоядерные процессоры как одну из характеристик CPU. А главное – нам нужно разобраться с тем, что же даёт эта многоядерность в плане производительности для процессора и для нас с вами.

Увеличение производительности за счёт многоядерности

Принцип увеличения производительности процессора за счёт нескольких ядер, заключается в разбиении выполнения потоков (различных задач) на несколько ядер. Обобщая, можно сказать, что практически каждый процесс, запущенный у вас в системе, имеет несколько потоков.

Сразу оговорюсь, что операционная система может виртуально создать для себя множество потоков и выполнять это все как бы одновременно, пусть даже физически процессор и одноядерный. Этот принцип реализует ту самую многозадачность Windows (к примеру, одновременное прослушивание музыки и набор текста).

Возьмём для примера антивирусную программу. Один поток у нас будет сканирование компьютера, другой – обновление антивирусной базы (мы всё очень упростили, дабы понять общую концепцию).

И рассмотрим, что же будет в двух разных случаях:

а) Процессор одноядерный. Так как два потока выполняются у нас одновременно, то нужно создать для пользователя (визуально) эту самую одновременность выполнения. Операционная система, делает хитро: происходит переключение между выполнением этих двух потоков (эти переключения мгновенны и время идет в миллисекундах). То есть, система немного «повыполняла» обновление, потом резко переключилась на сканирование, потом назад на обновление. Таким образом, для нас с вами создается впечатление одновременного выполнения этих двух задач. Но что же теряется? Конечно же, производительность. Поэтому давайте рассмотрим второй вариант.

б) Процессор многоядерный. В данном случае этого переключения не будет. Система четко будет посылать каждый поток на отдельное ядро, что в результате позволит нам избавиться от губительного для производительности переключения с потока на поток (идеализируем ситуацию). Два потока выполняются одновременно, в этом и заключается принцип многоядерности и многопоточности. В конечном итоге, мы намного быстрее выполним сканирование и обновление на многоядерном процессоре, нежели на одноядерном. Но тут есть загвоздочка – не все программы поддерживают многоядерность. Не каждая программа может быть оптимизирована таким образом. И все происходит далеко не так идеально, насколько мы описали. Но с каждым днём разработчики создают всё больше и больше программ, у которых прекрасно оптимизирован код, под выполнение на многоядерных процессорах.

Нужны ли многоядерные процессоры? Повседневная резонность

При выборе процессора для компьютера (а именно при размышлении о количестве ядер), следует определить основные виды задач, которые он будет выполнять.

Для улучшения знаний в сфере компьютерного железа, можете ознакомится с материалом про сокеты процессоров .

Точкой старта можно назвать двухъядерные процессоры, так как нет смысла возвращаться к одноядерным решениям. Но и двухъядерные процессоры бывают разные. Это может быть не «самый» свежий Celeron, а может быть Core i3 на Ivy Bridge, точно так же и у АМД – Sempron или Phenom II. Естественно, за счёт других показателей производительность у них будет очень отличаться, поэтому нужно смотреть на всё комплексно и сопоставлять многоядерность с другими характеристиками процессоров .

К примеру, у Core i3 на Ivy Bridge, в наличии имеется технология Hyper-Treading, что позволяет обрабатывать 4 потока одновременно (операционная система видит 4 логических ядра, вместо 2-ух физических). А тот же Celeron таким не похвастается.

Но вернемся непосредственно к размышлениям относительно требуемых задач. Если компьютер необходим для офисной работы и серфинга в интернете, то ему с головой хватит двухъядерного процессора.

Когда речь заходит об игровой производительности, то здесь, чтобы комфортно чувствовать себя в большинстве игр необходимо 4 ядра и более. Но тут всплывает та самая загвоздочка: далеко не все игры обладают оптимизированным кодом под 4-ех ядерные процессоры, а если и оптимизированы, то не так эффективно, как бы этого хотелось. Но, в принципе, для игр сейчас оптимальным решением является именно 4-ых ядерный процессор.

На сегодняшний день, те же 8-ми ядерные процессоры AMD , для игр избыточны, избыточно именно количество ядер, а вот производительность не дотягивает, но у них есть другие преимущества. Эти самые 8 ядер, очень сильно помогут в задачах, где необходима мощная работа с качественной многопоточной нагрузкой. К таковой можно отнести, например рендеринг (просчёт) видео, или же серверные вычисления. Поэтому для таких задач необходимы 6, 8 и более ядер. Да и в скором времени игры смогут качественно грузить 8 и больше ядер, так что в перспективе, всё очень радужно.

Не стоит забывать о том, что остается масса задач, создающих однопоточную нагрузку. И стоит задать себе вопрос: нужен мне этот 8-ми ядерник или нет?

Подводя небольшие итоги, еще раз отмечу, что преимущества многоядерности проявляются при «увесистой» вычислительной многопоточной работе. И если вы не играете в игры с заоблачными требованиями и не занимаетесь специфическими видами работ требующих хорошей вычислительной мощи, то тратиться на дорогие многоядерные процессоры, просто нет смысла (

В чем преимущество двухъядерных процессоров?

При покупке ноутбука вы наверняка заметили, что на некоторых из них есть ярлыки: "Intel Core 2 Duo " или "AMD Turion 64 x2". Эти ярлыки указывают на то, что ноутбуки созданы на основе двухъядерной технологии обработки данных.

Двухъядерные процессоры

Двухъядерные процессоры относятся к типу систем, состоящих из двух независимых процессорных ядер, объединенных в одной интегральной схеме (ИС) или, как говорят профессионалы, в единый кристалл. Такие системы совмещают два ядра в одном процессоре. Аналогичная технология впервые была применена к персональному компьютеру и к домашней игровой консоли, но очень скоро ее приспособили к мобильной компьютерной среде. Ноутбуки с подобной технологией есть у компаний AMD и Intel.

Двухъядерные процессоры имеют другую структуру, в отличие от сдвоенных одноядерных. Они относятся к системе, где два процессора объединены в одной интегральной схеме. А сдвоенные одноядерные процессоры, в свою очередь, относятся к системе, где два независимых процессора (у каждого имеется собственная матрица) напрямую подключены к материнской плате.

Каждый из процессоров в двухъядерной системе имеет встроенную кэш-память (первичная кэш-память), что дает им собственный потенциал для быстрого и эффективного восстановления и обработки часто используемых команд. Кроме этого, на той же интегральной схеме находится кэш-память второго уровня. Вторичная кэш-память на чипсете Intel"s Mobile Core 2 Duo делится между собой двумя процессорами. В чипсете Turion AMD 64x2 каждый из двух процессоров имеет выделенную кэш-память - по 512 КБ на каждое ядро. Кэш-память второго уровня - это резерв на случай, если первичной окажется недостаточно.

Преимущества двухъядерной технологии

Самые важные преимущества подобных процессоров - скорость и эффективность. Обработка команд и поиск данных осуществляются двумя процессорами; таким образом, достигается большая производительность без нагревания процессоров. То, что эти два процессора имеют свою собственную легко доступную первичную кэш-память, также гарантирует быструю работоспособность. Кроме того, особенно в случае с Intel Core 2 Duo, где вторичный кэш разделен, вся вторичная кэш-память может быть использована или одним, или обоими процессорами одновременно, если в этом возникнет необходимость.

В двух словах, ноутбук, имеющий двухъядерный процессор, быстрее работает и меньше нагревается и при этом имеет улучшенный многозадачный режим. Двухъядерные процессоры потребляют меньше электроэнергии, чем сдвоенные одноядерные.

Еще одно преимущество использования двухъядерных процессоров в ноутбуках – меньший вес и размер, что делает портативный компьютер более удобным, одновременно обеспечивая производительность, как у ПК.

Важно отметить, что при использовании старых программ, если будете запускать лишь одну программу одновременно, вы не почувствуете никаких преимуществ от двухъядерных процессоров. Старые программы не были разработаны для подобной технологии, таким образом, они в состоянии использовать лишь одно ядро. Однако в этом случае все равно остается преимущество многозадачного режима. Если вы одновременно открываете несколько программ, то процессор с двумя ядрами обеспечит более быструю производительность, чем одноядерный.

Время идет, и все больше разработчиков программного обеспечения создают свои программы с учетом двухъядерных процессоров; таким образом, пользователи в ближайшем будущем смогут ощутить все преимущества подобных процессоров.

Обнаружили неприятную проблему предела тактовой частоты. Достигнув порога в 3 ГГц, разработчики столкнулись с значительным ростом энергопотребления и тепловыделения своих продуктов. Уровень технологий 2004 года не позволял существенно уменьшить размеры транзисторов в кремниевом кристалле и выходом из сложившейся ситуации стала попытка не наращивать частоты, а увеличить количество операций, выполняемых за один такт. Переняв опыт серверных платформ, где многопроцессорная компоновка уже была испытана, было решено объединить два процессора на одном кристалле.

С тех пор прошло немало времени, в широком доступе появились ЦП с двумя, тремя, четырьмя, шестью и даже восемью ядрами. Но основную долю на рынке до сих пор занимают 2 и 4-ядерные модели. Изменить ситуацию пытаются в AMD, но их архитектура Bulldozer не оправдала надежд и бюджетные восьмиядерники все еще не очень популярны в мире. Поэтому вопрос, что лучше: 2 или 4-ядерный процессор , до сих пор остается актуальным.

Разница между 2 и 4-ядерным процессором

На аппаратном уровне основное отличие 2-ядерного процессора от 4-ядерного – количество функциональных блоков. Каждое ядро, по сути, представляет собой отдельный ЦП, оснащенный своими вычислительными узлами. 2 или 4 таких ЦП объединены между собой внутренней скоростной шиной и общим контроллером памяти для взаимодействия с ОЗУ. Другие функциональные узлы тоже могут быть общими: у большинства современных ЦП индивидуальной является кэш-память первого (L1) и второго (L2) уровня, блоки целочисленных вычислений и операций с плавающей запятой. Кэш L3, отличающийся относительно большим объемом, один и доступен всем ядрам. Отдельно можно отметить уже упомянутые AMD FX (а также ЦП Athlon и APU серии A): у них общими являются не только кэш-память и контроллер, но и блоки вычислений с плавающей запятой: каждый такой модуль одновременно принадлежит двум ядрам.

Схема четырехъядерного процессора AMD Athlon

С пользовательской точки зрения разница между 2 и 4-ядерным процессором заключается в количестве задач, которые ЦП может обработать за один такт. При одинаковой архитектуре, теоретическая разница будет составлять 2 раза для 2 и 4 ядер или 4 раза для 2 и 8 ядер, соответственно. Таким образом, при одновременной работе нескольких процессов, увеличение количества должно повлечь за собой рост быстродействия системы. Ведь вместо 2 операций четырехъядерный ЦП за один момент времени сможет выполнять сразу четыре.

Чем обусловлена популярность двухъядерных ЦП

Казалось бы, если увеличение числа ядер влечет за собой рост производительности, то на фоне моделей с четырьмя, шестью или восемью ядрами у двухядерников нет никаких шансов. Тем не менее, мировой лидер на рынке ЦП, компания Intel, ежегодно обновляет ассортимент своей продукции и выпускает новые модели всего с парой ядер (Core i3, Celeron, Pentium). И это на фоне того, что даже в смартфонах и планшетах на такие ЦП пользователи смотрят с недоверием или презрением. Чтобы понять, почему самые популярные модели – именно процессоры с двумя ядрами, следует учесть несколько основных факторов.

Intel Core i3 — самые популярные 2-ядерные процессоры для домашнего ПК

Проблема совместимости . При создании программного обеспечения разработчики стремятся сделать так, чтобы оно могло функционировать как на новых компьютерах, так и уже существующих моделях ЦП и ГП. Учитывая ассортимент на рынке, важно обеспечить, чтобы игра нормально работала и на двух ядрах, и на восьми. Большинство всех существующих домашних ПК оснащены двухъядерным процессором, поэтому поддержке таких компьютеров уделяется больше всего внимания.

Сложность распараллеливания задач . Чтобы обеспечить эффективное задействование всех ядер, вычисления, производимые в процессе работы программы, следует разделить на равные потоки. Например, задача, которая может оптимально задействовать все ядра, выделив каждому из них по одному или два процесса — одновременная компрессия нескольких видеороликов. С играми – сложнее, так как все выполняемые в них операции взаимосвязаны. Несмотря на то, что основную работу выполняет графический процессор видеокарты, информацию для формирования 3d-картинки подготавливает именно ЦП. Сделать так, чтобы каждое ядро обрабатывало свою порцию данных, а затем подавало ее ГП синхронно с другими, достаточно сложно. Чем больше одновременных потоков вычислений нужно обрабатывать – тем тяжелее реализация задачи.

Преемственность технологий . Разработчики программного обеспечения используют для своих новых проектов уже существующие наработки, подвергающиеся неоднократной модернизации. В отдельных случаях доходит до того, что такие технологии уходят корнями в прошлое на 10-15 лет. Разработка, основанная на проекте десятилетней давности, кардинальной переработке для идеальной оптимизации поддается очень неохотно, если не совсем никак. Как следствие, наблюдается неспособность софта рационально использовать аппаратные возможности ПК. Игра S.T.A.L.K.E.R. Зов Припяти, вышедшая в 2009 году (в эпоху расцвета многоядерных ЦП) построена на движке 2001 года, поэтому не умеет нагружать более, чем одно ядро.

S.T.A.L.K.E.R. полноценно задействует только одно ядоро 4-ядерного ЦП

Такая же ситуация и с популярной онлайн-РПГ World of Tanks: движок Big World, на котором она базируется, создан в 2005 году, когда многоядерные ЦП еще не воспринимались, как единственно возможный путь развития.

World of Tanks тоже не умеет распределять нагрузку на ядра равномерно

Финансовые сложности . Следствием этой проблемы является предыдущий пункт. Если создавать каждое приложение с нуля, не используя имеющиеся технологии, его реализация обойдется в баснословные суммы. К примеру, стоимость разработки GTA V составила более 200 млн долларов. При этом, некоторые технологии все равно не были созданы «из чистого листа», а позаимствованы из предыдущих проектов, так как игра писалась под 5 платформ сразу (Sony PS3, PS4, Xbox 360 и One, а также ПК).

GTA V оптимизирована под многоядерность и умеет равномерно загружать процессор

Все эти нюансы не позволяют в полной мере использовать потенциал многоядерных процессоров на практике. Взаимозависимость производителей аппаратного обеспечения и разработчиков софта порождает замкнутый круг.

Какой процессор лучше: 2 или 4-ядерный

Очевидно, что при всех преимуществах потенциал многоядерных процессоров до сих пор остается нереализованным до конца. Некоторые задачи вообще не умеют равномерно распределять нагрузку и работают в один поток, другие – делают это с посредственной эффективностью, и лишь малая доля ПО полноценно взаимодействуют со всеми ядрами. Поэтому вопрос, какой лучше процессор, 2 или 4 ядра , купить, требует внимательного изучения текущей ситуации.

На рынке представлены продукты двух производителей: Intel и AMD, отличающиеся особенностями реализации. Advanced Micro Devices традиционно делают упор на многоядерность, в то время как «Интел» неохотно идут на такой шаг и наращивают количество ядер только если это не приводит к снижению удельной производительности в расчете на ядро (избежать которого очень сложно).

Увеличение количества ядер снижает итоговую производительность каждого из них

Как правило, общая теоретическая и практическая производительность многоядерного ЦП ниже, чем аналогичного (построенного на такой же микроархитектуре, с тем же техпроцессорм) с одним ядром. Вызвано это тем, что ядра используют общие ресурсы, и это не лучшим образом сказывается на быстродействии. Таким образом, нельзя просто приобрести мощный четырех- или шестиъядерный процессор с расчетом на то, что он точно не будет слабее двухъядерника из той же серии. В некоторых ситуациях – будет, при том ощутимо. В качестве примера можно привести запуск старых игр на компьютере с восьмиядерным процессором AMD FX : FPS при этом порой ниже, чем на аналогичном ПК, но с четырехъядерным ЦП.

Нужна ли сегодня многоядерность

Значит ли это, что много ядер не нужно? Несмотря на то, что вывод кажется закономерным — нет. Легкие повседневные задачи (такие как веб-серфинг или работа с несколькими программами одновременно) положительно реагируют на увеличение числа ядер процессора. Именно по этой причине производители смартфонов делают упор на количество, опуская на второй план удельную производительность. Opera (и другие браузеры на движке Chromium), Firefox запускают каждую открытую вкладку в виде отдельного процесса, соответственно, чем больше ядер – тем быстрее переход между вкладками. Файловые менеджеры, офисные программы, проигрыватели – сами по себе не являются ресурсоемкими. Но при потребности часто переключаться между ними многоядерный процессор позволит повысить производительность системы.

Браузер Opera каждой вкладке присваивает отдельный процесс

В компании Intel осознают это, потому технология HuperThreading, позволяющая ядру обрабатывать второй поток силами неиспользуемых ресурсов, появилась еще во времена Pentium 4. Но она не позволяет в полной мере компенсировать недостаток производительности.

В «Диспетчере задач» 2-ядерный процессор с Huper Threading отображается, как 4-ядерный

Создатели игр, тем временем, постепенно наверстывают упущенное. Появление новых поколений консолей Sony Play Station и Microsoft Xbox простимулировало разработчиков уделять больше внимания многоядерности. Обе приставки созданы на базе восьмиядерных чипов AMD, поэтому теперь программистам не нужно тратить уйму сил на оптимизацию при портировании игры на ПК. С ростом популярности этих консолей — с облегчением смогли вздохнуть и те, кто разочаровался в приобретении AMD FX 8xxx. Многоядерники усиленно отвоевывают позиции на рынке, о чем можно убедиться на примере обзоров.

Одним из этапов совершенствования архитектуры фон Неймана является распараллеливание потоков (Thread Level Parallelism , TLP ). Различают одновременную многопоточность (Simultaneous Multithreading , SMT ) и многопоточность на уровне кристалла (Chip - level Multithreading , CMT ). Эти два подхода в основном различаются представлением о том, что такое поток. Типичным представителем SMT является так называемая технология HTT (Hyper - Threading Technology ).

Первыми представителями архитектурыCMP стали процессоры, предназначенные для использования в серверах. Это был простой тандем, в таких приборах на одной подложке размещались два, по сути, независимых ядра (Рис.8,). Развитием этой схемы сначала стала структура с общей кэш – памятью рис. 9, а затем структура с многпоточностью в каждом ядре.

Преимущества многоядерных процессоров состоят в следующем.

Простота (естественно относительная) проектирования и производства. Разработав одно эффективное ядро, его можно тиражировать в кристалле, дополняя архитектуру нужными системными компонентами.

Заметно уменьшается энергопотребление. Если, к примеру, на кристалле разместить два ядра и заставить их работать на тактовой частоте, обеспечивающей производительность равную производительности, одноядерного «собрата», а потом сравнить энергопотребление обоих, то обнаружится, что энергопотребление уменьшается в несколько раз, поскольку оно растет почти пропорционально квадрату частоты.

В целом же, если внимательно посмотреть на рисунки 8 и 9, можно увидеть, что принципиальной разницы между, скажем, 2-х процессорной системой и ЭВМ на 2-х ядерном процессоре нет. Проблемы одинаковые. И одна из первых – соответствующая операционная система.

Способы организации работы процессоров

Главным стимулом развития архитектуры ЭВМ является повышение производительности. Один из способов повышения производительности ЭВМ - специализация (как отдельных элементов ЭВМ, так и создание специализированных вычислительных систем).

Специализация процессоров началась с 60-х годов, когда центральный процессор больших ЭВМ был освобожден от выполнения рутинной операции по вводу-выводу информации. Эта функция была передана процессору ввода-вывода, осуществляющему связь с периферийными устройствами.

Другой путь повышения производительности – отход от последовательной архитектуры фон Неймана, ориентация на параллелизм. М. Флин обратил внимание на то, что существует всего две причины, порождающие вычислительный параллелизм - независимость потоков команд, одновременно существующих в системе, и несвязанность данных, обрабатываемых в одном потоке команд. Если первая причина параллелизма вычислительного процесса достаточно известна (это прост мультипроцессирование), то на параллелизме данных остановимся более подробно, поскольку в большинстве случаев он существует скрыто от программистов и используется ограниченным кругом профессионалов.

Простейшим примером параллелизма данных является последовательность из двух команд: А=В+С; D=E*F;

Если строго следовать принципу фон Неймана, то вторая операция может быть запущена на исполнение только после завершения первой операции. Однако очевидно, что порядок выполнения этих команд не имеет никакого значения - операнды А, В и С первой команды никак не связаны с операндами D, Е и F второй команды. Другими словами, обе операции являются параллельными именно потому, что операнды этих команд не связаны между собой. Можно привести множество примеров последовательности из трех и более команд с несвязанными данными, которые приведут к однозначному выводу: практически любая программа содержит группы операций над параллельными данными.

Другой вид параллелизма данных, как правило, возникает в циклических программах обработки массивов данных. Например, при сложении элементов двух массивов одна команда может обрабатывать большой массив (множественный поток) данных. Подобные команды называются векторными, а процессор, реализующий такой режим – векторным. Можно дать такое определение: «Векторный процессор - процессор, обеспечивающий параллельное выполнение операции над массивами данных (векторами). Он характеризуется специальной архитектурой, построенной на группе параллельно работающих процессорных элементов, и предназначен для обработки изображений, матриц и массивов данных».

Существует несколько достаточно близких по смыслу классификаций программного параллелизма, из которых наиболее признанной считается классификация по шести уровням (Рис.10). Три верхних уровня параллелизма занимают крупные программные объекты - независимые задания, программы и процедуры программы. Несвязанные операторы, циклы и операции образуют нижние уровни параллелизма. Если совместить такое ранжирование с категориями М. Флина «параллельные потоки команд» и «параллельные потоки данных», то видно, что параллелизм верхнего уровня в основном достигается за счет множества независимых потоков команд, а параллелизм нижнего уровня обязан своим существованием главным образом несвязанным потокам данных.

Конвейерная обработка и конвейерные структуры

Одним из эффективных способов повышения производительности ЭВМ является конвейеризация. На рис. 11а) показана обработка в одиночном универсальном блоке, а на рис.11 б) и в) – в конвейере. Идея конвейерной обработки заключается в разбиении функции, реализуемой универсальным функциональным блоком (ФБ), между несколькими, специализированными. Все функциональные блоки конвейера должны работать с одинаковой скоростью (хотя бы в среднем). На практике последнего добиться удается редко и, как следствие, производительность конвейера снижается, поскольку период поступления входных данных определяется максимальным временем их обработки в каждом функциональном блоке. Для компенсации флуктуаций времени работы ФБ между ними включают буферные регистры. Более универсальным приёмом является включение буферных запоминающих устройств типа FIFO (рис 11 в ). Следует обратить внимание на ещё одно различие между рисунками б) и в) . В структуре в) отсутствует линия синхронизации СИ. Это не значит, что её не может быть в подобной структуре, просто существует два типа конвейеров: синхронные с общей линией синхронизации и асинхронные , без таковой. Первые ещё называют с управлением командами , а вторые – с управлением данными . Примером асинхронных конвейеров могут служить систолические массивы.

Конвейер не всегда представляет собой линейную цепочку блоков. Иногда оказывается выгодным, функциональные блоки соединят между собой не последовательно, а по более сложной схеме в соответствии с логикой обработки, при этом одни блоки в цепочке могут пропускаться, а другие – образовывать циклические структуры. Структура нелинейного конвейера, способного вычислять две функции X и Y, и диаграммы, в которой функциями X и Y востребуются те или иные функциональные блоки приведена на рис. 12

• Tutorial

В этой статье я попытаюсь описать терминологию, используемую для описания систем, способных исполнять несколько программ параллельно, то есть многоядерных, многопроцессорных, многопоточных. Разные виды параллелизма в ЦПУ IA-32 появлялись в разное время и в несколько непоследовательном порядке. Во всём этом довольно легко запутаться, особенно учитывая, что операционные системы заботливо прячут детали от не слишком искушённых прикладных программ.

Цель статьи - показать, что при всём многообразии возможных конфигураций многопроцессорных, многоядерных и многопоточных систем для программ, исполняющихся на них, создаются возможности как для абстракции (игнорирования различий), так и для учёта специфики (возможность программно узнать конфигурацию).

Предупреждение о знаках ®, ™, в статье

Мой комментарий объясняет, почему сотрудники компаний должны в публичных коммуникациях использовать знаки авторского права. В этой статье их пришлось использовать довольно часто.

Процессор

Конечно же, самый древний, чаще всего используемый и неоднозначный термин - это «процессор».

В современном мире процессор - это то (package), что мы покупаем в красивой Retail коробке или не очень красивом OEM-пакетике. Неделимая сущность, вставляемая в разъём (socket) на материнской плате. Даже если никакого разъёма нет и снять его нельзя, то есть если он намертво припаян, это один чип.

Мобильные системы (телефоны, планшеты, ноутбуки) и большинство десктопов имеют один процессор. Рабочие станции и сервера иногда могут похвастаться двумя или больше процессорами на одной материнской плате.

Поддержка нескольких центральных процессоров в одной системе требует многочисленных изменений в её дизайне. Как минимум, необходимо обеспечить их физическое подключение (предусмотреть несколько сокетов на материнской плате), решить вопросы идентификации процессоров (см. далее в этой статье, а также мою предыдущую заметку), согласования доступов к памяти и доставки прерываний (контроллер прерываний должен уметь маршрутизировать прерывания на несколько процессоров) и, конечно же, поддержки со стороны операционной системы. Я, к сожалению, не смог найти документального упоминания момента создания первой многопроцессорной системы на процессорах Intel, однако Википедия утверждает , что Sequent Computer Systems поставляла их уже в 1987 году, используя процессоры Intel 80386. Широко распространённой поддержка же нескольких чипов в одной системе становится доступной, начиная с Intel® Pentium.

Если процессоров несколько, то каждый из них имеет собственный разъём на плате. У каждого из них при этом имеются полные независимые копии всех ресурсов, таких как регистры, исполняющие устройства, кэши. Делят они общую память - RAM. Память может подключаться к ним различными и довольно нетривиальными способами, но это отдельная история, выходящая за рамки этой статьи. Важно то, что при любом раскладе для исполняемых программ должна создаваться иллюзия однородной общей памяти, доступной со всех входящих в систему процессоров.

К взлёту готов! Intel® Desktop Board D5400XS

Ядро

Исторически многоядерность в Intel IA-32 появилась позже Intel® HyperThreading, однако в логической иерархии она идёт следующей.

Казалось бы, если в системе больше процессоров, то выше её производительность (на задачах, способных задействовать все ресурсы). Однако, если стоимость коммуникаций между ними слишком велика, то весь выигрыш от параллелизма убивается длительными задержками на передачу общих данных. Именно это наблюдается в многопроцессорных системах - как физически, так и логически они находятся очень далеко друг от друга. Для эффективной коммуникации в таких условиях приходится придумывать специализированные шины, такие как Intel® QuickPath Interconnect. Энергопотребление, размеры и цена конечного решения, конечно, от всего этого не понижаются. На помощь должна прийти высокая интеграция компонент - схемы, исполняющие части параллельной программы, надо подтащить поближе друг к другу, желательно на один кристалл. Другими словами, в одном процессоре следует организовать несколько ядер , во всём идентичных друг другу, но работающих независимо.

Первые многоядерные процессоры IA-32 от Intel были представлены в 2005 году. С тех пор среднее число ядер в серверных, десктопных, а ныне и мобильных платформах неуклонно растёт.

В отличие от двух одноядерных процессоров в одной системе, разделяющих только память, два ядра могут иметь также общие кэши и другие ресурсы, отвечающие за взаимодействие с памятью. Чаще всего кэши первого уровня остаются приватными (у каждого ядра свой), тогда как второй и третий уровень может быть как общим, так и раздельным. Такая организация системы позволяет сократить задержки доставки данных между соседними ядрами, особенно если они работают над общей задачей.

Микроснимок четырёхядерного процессора Intel с кодовым именем Nehalem. Выделены отдельные ядра, общий кэш третьего уровня, а также линки QPI к другим процессорам и общий контроллер памяти.

Гиперпоток

До примерно 2002 года единственный способ получить систему IA-32, способную параллельно исполнять две или более программы, состоял в использовании именно многопроцессорных систем. В Intel® Pentium® 4, а также линейке Xeon с кодовым именем Foster (Netburst) была представлена новая технология - гипертреды или гиперпотоки, - Intel® HyperThreading (далее HT).

Ничто не ново под луной. HT - это частный случай того, что в литературе именуется одновременной многопоточностью (simultaneous multithreading, SMT). В отличие от «настоящих» ядер, являющихся полными и независимыми копиями, в случае HT в одном процессоре дублируется лишь часть внутренних узлов, в первую очередь отвечающих за хранение архитектурного состояния - регистры. Исполнительные же узлы, ответственные за организацию и обработку данных, остаются в единственном числе, и в любой момент времени используются максимум одним из потоков. Как и ядра, гиперпотоки делят между собой кэши, однако начиная с какого уровня - это зависит от конкретной системы.

Я не буду пытаться объяснить все плюсы и минусы дизайнов с SMT вообще и с HT в частности. Интересующийся читатель может найти довольно подробное обсуждение технологии во многих источниках, и, конечно же, в Википедии . Однако отмечу следующий важный момент, объясняющий текущие ограничения на число гиперпотоков в реальной продукции.

Ограничения потоков

В каких случаях наличие «нечестной» многоядерности в виде HT оправдано? Если один поток приложения не в состоянии загрузить все исполняющие узлы внутри ядра, то их можно «одолжить» другому потоку. Это типично для приложений, имеющих «узкое место» не в вычислениях, а при доступе к данным, то есть часто генерирующих промахи кэша и вынужденных ожидать доставку данных из памяти. В это время ядро без HT будет вынуждено простаивать. Наличие же HT позволяет быстро переключить свободные исполняющие узлы к другому архитектурному состоянию (т.к. оно как раз дублируется) и исполнять его инструкции. Это - частный случай приёма под названием latency hiding, когда одна длительная операция, в течение которой полезные ресурсы простаивают, маскируется параллельным выполнением других задач. Если приложение уже имеет высокую степень утилизации ресурсов ядра, наличие гиперпотоков не позволит получить ускорение - здесь нужны «честные» ядра.

Типичные сценарии работы десктопных и серверных приложений, рассчитанных на машинные архитектуры общего назначения, имеют потенциал к параллелизму, реализуемому с помощью HT. Однако этот потенциал быстро «расходуется». Возможно, по этой причине почти на всех процессорах IA-32 число аппаратных гиперпотоков не превышает двух. На типичных сценариях выигрыш от использования трёх и более гиперпотоков был бы невелик, а вот проигрыш в размере кристалла, его энергопотреблении и стоимости значителен.

Другая ситуация наблюдается на типичных задачах, выполняемых на видеоускорителях. Поэтому для этих архитектур характерно использование техники SMT с бóльшим числом потоков. Так как сопроцессоры Intel® Xeon Phi (представленные в 2010 году) идеологически и генеалогически довольно близки к видеокартам, на них может быть четыре гиперпотока на каждом ядре - уникальная для IA-32 конфигурация.

Логический процессор

Из трёх описанных «уровней» параллелизма (процессоры, ядра, гиперпотоки) в конкретной системе могут отсутствовать некоторые или даже все. На это влияют настройки BIOS (многоядерность и многопоточность отключаются независимо), особенности микроархитектуры (например, HT отсутствовал в Intel® Core™ Duo, но был возвращён с выпуском Nehalem) и события при работе системы (многопроцессорные сервера могут выключать отказавшие процессоры в случае обнаружения неисправностей и продолжать «лететь» на оставшихся). Каким образом этот многоуровневый зоопарк параллелизма виден операционной системе и, в конечном счёте, прикладным приложениям?

Далее для удобства обозначим количества процессоров, ядер и потоков в некоторой системе тройкой (x , y , z ), где x - это число процессоров, y - число ядер в каждом процессоре, а z - число гиперпотоков в каждом ядре. Далее я буду называть эту тройку топологией - устоявшийся термин, мало что имеющий с разделом математики. Произведение p = xyz определяет число сущностей, именуемых логическими процессорами системы. Оно определяет полное число независимых контекстов прикладных процессов в системе с общей памятью, исполняющихся параллельно, которые операционная система вынуждена учитывать. Я говорю «вынуждена», потому что она не может управлять порядком исполнения двух процессов, находящихся на различных логических процессорах. Это относится в том числе к гиперпотокам: хотя они и работают «последовательно» на одном ядре, конкретный порядок диктуется аппаратурой и недоступен для наблюдения или управления программам.

Чаще всего операционная система прячет от конечных приложений особенности физической топологии системы, на которой она запущена. Например, три следующие топологии: (2, 1, 1), (1, 2, 1) и (1, 1, 2) - ОС будет представлять в виде двух логических процессоров, хотя первая из них имеет два процессора, вторая - два ядра, а третья - всего лишь два потока.

Windows Task Manager показывает 8 логических процессоров; но сколько это в процессорах, ядрах и гиперпотоках?

Linux top показывает 4 логических процессора.

Это довольно удобно для создателей прикладных приложений - им не приходится иметь дело с зачастую несущественными для них особенностями аппаратуры.

Программное определение топологии

Конечно, абстрагирование топологии в единственное число логических процессоров в ряде случаев создаёт достаточно оснований для путаницы и недоразумений (в жарких Интернет-спорах). Вычислительные приложения, желающие выжать из железа максимум производительности, требуют детального контроля над тем, где будут размещены их потоки: поближе друг к другу на соседних гиперпотоках или же наоборот, подальше на разных процессорах. Скорость коммуникаций между логическими процессорами в составе одного ядра или процессора значительно выше, чем скорость передачи данных между процессорами. Возможность неоднородности в организации оперативной памяти также усложняет картину.

Информация о топологии системы в целом, а также положении каждого логического процессора в IA-32 доступна с помощью инструкции CPUID. С момента появления первых многопроцессорных систем схема идентификации логических процессоров несколько раз расширялась. К настоящему моменту её части содержатся в листах 1, 4 и 11 CPUID. Какой из листов следует смотреть, можно определить из следующей блок-схемы, взятой из статьи :

Я не буду здесь утомлять всеми подробностями отдельных частей этого алгоритма. Если возникнет интерес, то этому можно посвятить следующую часть этой статьи. Отошлю интересующегося читателя к , в которой этот вопрос разбирается максимально подробно. Здесь же я сначала кратко опишу, что такое APIC и как он связан с топологией. Затем рассмотрим работу с листом 0xB (одиннадцать в десятичном счислении), который на настоящий момент является последним словом в «апикостроении».

APIC ID

Local APIC (advanced programmable interrupt controller) - это устройство (ныне входящее в состав процессора), отвечающее за работу с прерываниями, приходящими к конкретному логическому процессору. Свой собственный APIC есть у каждого логического процессора. И каждый из них в системе должен иметь уникальное значение APIC ID. Это число используется контроллерами прерываний для адресации при доставке сообщений, а всеми остальными (например, операционной системой) - для идентификации логических процессоров. Спецификация на этот контроллер прерываний эволюционировала, пройдя от микросхемы Intel 8259 PIC через Dual PIC, APIC и xAPIC к x2APIC .

В настоящий момент ширина числа, хранящегося в APIC ID, достигла полных 32 бит, хотя в прошлом оно было ограничено 16, а ещё раньше - только 8 битами. Нынче остатки старых дней раскиданы по всему CPUID, однако в CPUID.0xB.EDX возвращаются все 32 бита APIC ID. На каждом логическом процессоре, независимо исполняющем инструкцию CPUID, возвращаться будет своё значение.

Выяснение родственных связей

Значение APIC ID само по себе ничего не говорит о топологии. Чтобы узнать, какие два логических процессора находятся внутри одного физического (т.е. являются «братьями» гипертредами), какие два - внутри одного процессора, а какие оказались и вовсе в разных процессорах, надо сравнить их значения APIC ID. В зависимости от степени родства некоторые их биты будут совпадать. Эта информация содержится в подлистьях CPUID.0xB, которые кодируются с помощью операнда в ECX. Каждый из них описывает положение битового поля одного из уровней топологии в EAX (точнее, число бит, которые нужно сдвинуть в APIC ID вправо, чтобы убрать нижние уровни топологии), а также тип этого уровня - гиперпоток, ядро или процессор, - в ECX.

У логических процессоров, находящихся внутри одного ядра, будут совпадать все биты APIC ID, кроме принадлежащих полю SMT. Для логических процессоров, находящихся в одном процессоре, - все биты, кроме полей Core и SMT. Поскольку число подлистов у CPUID.0xB может расти, данная схема позволит поддержать описание топологий и с бóльшим числом уровней, если в будущем возникнет необходимость. Более того, можно будет ввести промежуточные уровни между уже существующими.

Важное следствие из организации данной схемы заключается в том, что в наборе всех APIC ID всех логических процессоров системы могут быть «дыры», т.е. они не будут идти последовательно. Например, во многоядерном процессоре с выключенным HT все APIC ID могут оказаться чётными, так как младший бит, отвечающий за кодирование номера гиперпотока, будет всегда нулевым.

Отмечу, что CPUID.0xB - не единственный источник информации о логических процессорах, доступный операционной системе. Список всех процессоров, доступный ей, вместе с их значениями APIC ID, кодируется в таблице MADT ACPI .

Операционные системы и топология

Операционные системы предоставляют информацию о топологии логических процессоров приложениям с помощью своих собственных интерфейсов.

В Linux информация о топологии содержится в псевдофайле /proc/cpuinfo , а также выводе команды dmidecode . В примере ниже я фильтрую содержимое cpuinfo на некоторой четырёхядерной системе без HT, оставляя только записи, относящиеся к топологии:

Скрытый текст

ggg@shadowbox:~$ cat /proc/cpuinfo |grep "processor\|physical\ id\|siblings\|core\|cores\|apicid" processor: 0 physical id: 0 siblings: 4 core id: 0 cpu cores: 2 apicid: 0 initial apicid: 0 processor: 1 physical id: 0 siblings: 4 core id: 0 cpu cores: 2 apicid: 1 initial apicid: 1 processor: 2 physical id: 0 siblings: 4 core id: 1 cpu cores: 2 apicid: 2 initial apicid: 2 processor: 3 physical id: 0 siblings: 4 core id: 1 cpu cores: 2 apicid: 3 initial apicid: 3

В FreeBSD топология сообщается через механизм sysctl в переменной kern.sched.topology_spec в виде XML:

Скрытый текст

user@host:~$ sysctl kern.sched.topology_spec kern.sched.topology_spec: 0, 1, 2, 3, 4, 5, 6, 7 0, 1, 2, 3, 4, 5, 6, 7 0, 1 THREAD groupSMT group 2, 3 THREAD groupSMT group 4, 5 THREAD groupSMT group 6, 7 THREAD groupSMT group

В MS Windows 8 сведения о топологии можно увидеть в диспетчере задач Task Manager.