программистское

[avva]

Все-таки забавно, насколько использование виртуальных методов убивает скорость. Prefetch queue - наше все.

Скажем, алгоритм обрабатывает большие массивы памяти в цикле, который делает относительно мало работы, а вызывается очень много раз. Итератор цикла - виртуальный метод вспомогательного класса, который вызывает еще пару виртуальных методов, и все они делают очень мало работы. Ничего остального не меняя, делаем эти методы невиртуальными, и алгоритм бежит в пять раз быстрее.

Comments

[iratus.livejournal.com]

Пишем на С изначально... ;-)

[vodianoj.livejournal.com]

Можно их сделать инлайн, и тогда побежит ещё быстрее.
Зато если под словом "обрабатывает" предположить, что он на самом деле что-то делает (распространённый случай), а не копирует из одного места в другое или там прибавлят 1, то всё преимущество сведётся на нет.

[averros.livejournal.com]

Мммм... или поменять интерфейс класса на предмет заменить скалярные операции на векторные. Чтобы был один вызов виртуальной функции на весь массив.

[whoozle.livejournal.com]

по хорошему, таких узких мест не должно быть :-) что-то не так с архитектурой. :-)

[mstone.livejournal.com]

Да, возможность заменить динамический полиморфизм на статический — одна из главных радостей C++.

[fima.livejournal.com]

Верится с трудом

[kika.livejournal.com]

+1

[avva.livejournal.com]

А вот же.

[s1m.livejournal.com]

почему? если алгоритм делает мало действий и много вызовов, то непредсказанные переходы оказывают довольно большое влияние.

[e2pii1.livejournal.com]

Неудивительно и совершенно естественно.
Вызов функции - это сохранение/восстановление регистров, параметры в стек, и возможно ломаются оптимизации.

невиртуальные методы компилятор сам превращает в inline

Comparative performance : virtual vs. ordinary methods

[alex-vinokur.livejournal.com]

http://article.gmane.org/gmane.comp.lang.c++.perfometer/66

[nine_k]

Интересно, не выиграет ли в этом месте VM с JIT, которая нужны методы не только скомпилирует, но, при небольшом размере, и за-inline-ит независимо от виртуальности.

Можно смотреть на это, кстати, не как на дефект языков с virtual dispatch, а как на дефект процессорной архитектуры, которая к нему не приспособлена. Поди, лет 40 назад в наборах команд процессоров команды для поддержки подпрограмм тоже были экзотикой, не говоря уж о поддержке многопроцессности и многопроцессорности. Ничего, появились. Или там векторные операции -- появились в "мэйнстриме" на наших глазах :)

[cmm.livejournal.com]

> Можно смотреть на это, кстати, не как на дефект языков с virtual dispatch, а как на дефект процессорной архитектуры, которая к нему не приспособлена.

это дефект языков (а точнее, реализаций — не-табличный кеширующий диспатч можно и для C++ сделать, в принципе), жёстко соптимизированных не там где надо.

[(Anonymous)]

> VM с JIT, которая нужны методы не только скомпилирует, но, при небольшом размере, и за-inline-ит независимо от виртуальности

If the dynamic types of object which you are calling do not match the static type (i.e., different virtual functions being called) then I would love to see how JVM will inline this. If it is possible to determine that dynamic and static types are the same then any decent C++ compiler will generate a direct function call and will inline it if the function was defined as inline.

[109.livejournal.com]

что-то я торможу. а как можно заинлайнить виртуальный метод?

[arnold3.livejournal.com]

Покажите листинг.

[plakhov.livejournal.com]

Собственная эмуляция виртуальной таблицы при помощи С-style callbacks часто помогает.

Еще часто помогает curiously recurring template pattern.

[gdy.livejournal.com]

Ещё забавнее будет, если попробуете убрать вызовы функций из тела цикла ;-)

[ivan-gandhi.livejournal.com]

Да-да. Когда я был студентом, нас учили, что нужно поменьше фунцкий и вызовов писать в программах, потому что это неэффективно.

[avva.livejournal.com]

В данном случае это непрактично.

[s1m.livejournal.com]

все CPU ждут память с одинаковой скоростью.

по крайней мере с индиректами/непредсказанными переходами можно достаточно легко бороться (не использовать без необходимости), а вот cache incoherency может угробить производительность многопоточного приложения гораздо сильнее и бороться с этим гораздо сложнее :/

[109.livejournal.com]

ухх! а кстати, в джаве появился способ сделать метод невиртуальным, или так все виртуальные и есть всегда?

[cmm.livejournal.com]

можно final написать, кажися.

Правда-правда ;);)

[(Anonymous)]

Чистая правда, но вот мы однажды выполнили почти обратное преобразование - изменили условия-с-вызовом-статических-методов на вызов-виртуального-метода в паре циклов, где обрабатывались большие массивы, а все остальное оставили как было. В результате почему-то получили десятикратное ускорение работы. ;););)

было:
if (obje->type == TYPE_01) ((TYPE01)obje)->CallMethod01();
else if (obje->type == TYPE_02) ((TYPE02)obje)->CallMethod01();
else if (obje->type == TYPE_03) ((TYPE03)obje)->CallMethod01();

стало:
obje->CallMethod();

[yanis.livejournal.com]

скорость убивает хуевый дизайн

[qaraabayna.livejournal.com]

You just posted your best post so far.