Apple's open-source XNU kernel on Android phones: its own loader and drivers, Metal on the Adreno. Runs from RAM; a reboot gives the phone back to Android.
C
Merge air into main: the fix measured before and after, from both paths
vcvkkd53106c7a86e
diff --cc README.mdindex 1a768fa,40d1294..b0202e0--- a/README.md+++ b/README.md@@@ -535,55 -542,46 +542,56 @@@ P3 поверхности кадров(`AGXCompilerCore`, 137 строк-суффиксов), а не угадан — так нашлась и одна ошибка в наших догадках.Операции проверены численно — на хосте: из 119 разных `air.*`, что встречаются в корпусе, 78 прогнаны- по одной против эталона вне этого дерева, 71 из них совпадает с функциями C на каждом из 45 607 случаев,+ по одной против эталона вне этого дерева, 71 из них совпадает с функциями C на каждом из 45 652 случаев,47 — ещё и когда их **исполняет** softpipe, а не складывает оптимизатор (2 586 случаев), 10 атомиков ибарьер — на написанных для них ядрах, 13 текстурных операций — точно, по нескольким текселям каждая.- **И все 78 прогнаны на самом Adreno телефона** (`logs/080952-run.log`, 20 октября): из 71 точно- определённой операции **56 совпадают с C на каждом из 714 случаев, 5 расходятся и 10 отложены**- (`logs/090218-run.log`, пересчёт). Ни один модуль не отказался запускаться.-- Эти 10 отложенных — то, что осталось от утверждения, которое стояло здесь раньше: будто вопрос про- узкие типы заодно и ответился, и 24 объявления с `i1`, `i8`, `i16`, `f16` на Adreno совпали. Оно- отозвано и пересчитано. Сравнение пропускало случаи с бесконечным ожиданием молча, не считая их:- у модуля с `air.convert.f.f16.u.i32` ожидания были `[0, inf, inf, inf]`, сравнился один случай из- четырёх — нулевой, — и доложено «совпадает», тогда как в трёх пропущенных ответ железа с эталоном- расходился. Причём расходился не по вине железа: у `air_run` нет 16-битного рендер-таргета,- половинный результат сразу расширяется до `f32`, NIR сворачивает преобразование в `u2f32`, и шейдер- считает не ту операцию, которую описывает эталон. Поэтому отложены **все** объявления с half в- результате, а не только конверсии: к четырём `air.convert.f.f16.*` добавились `air.fmax.{f16,v4f16}`,- `air.fmin.{f16,v4f16}`, `air.mix.f16` и `air.saturate.f16`. Проверить их — отдельная работа: сперва- `air_run` должен научиться читать half, иначе проверка снова будет сравнивать с эталоном не то, что- исполняется.+ **И все 78 прогнаны на самом Adreno телефона**, причём дважды: как порт стоял, и с однострочной+ починкой округления в `ir3`, которую это дерево теперь несёт (`tools/mesa/ir3-round-default.patch`).++ | прогон | совпадают | расходятся | отложены | случаев |+ | --- | --- | --- | --- | --- |+ | как порт стоял (`logs/090218-run.log`) | 56 | **5** | 10 | 714 |+ | с починкой (`logs/090918-run.log`) | **61** | **0** | 10 | 714 |++ Все пять расходившихся — преобразования целого в float: `air.convert.f.{f32,v2f32,v3f32}.u.*`,+ а после того как пул научился спрашивать про середины, ещё и знаковые+ `air.convert.f.{f32,v2f32}.s.*`, то есть `i2f` усекает так же, как `u2f`. С починкой сходятся все+ пять, и больше ничего не сдвинулось — то есть починка чинит ровно то, что было неверно.++ Отложенные десять возвращают `half`, и проверить их прогоном `air_run` нельзя ни до, ни после: он+ читает результат через 32-битный таргет, 16-битного у него нет вовсе, поэтому половина сразу+ расширяется, NIR сворачивает преобразование в 32-битное, и эталон описывает операцию, которой шейдер+ не выполняет. Раньше здесь стояло «66 совпадают на 808 случаях» и отдельно — что все 24 узких+ объявления прошли на Adreno и совпали; это было неверно ровно на эти десять, и неверно в той части,+ которая и была интересна. Из узких типов `i1`, `i8` и `i16` действительно прошли и совпали, а `f16`+ не спрашивали. 61 + 0 + 10 = 71, счёт сходится.+Из того же пропуска вылезла находка, которую он глотал: `air.fast_pow` на Adreno даёт `+inf` для+`pow(-0, -1)`, где C даёт `-inf`. Вердикта нет (`fast::` вне области определения не определены), но+теперь это хотя бы видно. И три объявления — `air.all.v2i1`, `air.all.v3i1`, `air.convert.f.f32.u.i1` —+сравнились всего на двух случаях каждое: «совпадает на каждом случае» из двух стоит читать иначе, чем+те же слова из двенадцати.+Эти 3 — единственное за всю работу, что нельзя было найти на хосте никаким движением, и ровно за этимнабор и ехал на телефон: **Adreno усекает `u32 → f32` там, где C, NIR и softpipe округляют.**`0xFFFFFFFF` даёт 4 294 967 040 вместо 4 294 967 296 — ровно отброшенные младшие 8 бит, то естьусечение к нулю вместо округления к ближайшему, которого требует OpenCL (а Metal наследует егоматематику). Наш фронтенд при этом выдаёт правильный опкод `nir_u2f32`, а ir3 превращает его водиночную `cov.u32f32` без доводки — машинный код модуля это пять инструкций, четыре из них `cov`,- и между загрузкой и преобразованием ничего. То есть виноваты не мы и не понижение в ir3 как таковое.-- **Кто должен компенсировать — установлено, и документация на ISA не понадобилась.** У инструкции- `cov` есть поле режима округления, и ir3 его заполняет (`create_cov()` в `ir3_compiler_nir.c`), но- только когда шейдер объявил режим через float controls — механизм Vulkan и SPIR-V. У GLSL ES и у- нашего фронтенда AIR не объявлено ничего, `nir_get_rounding_mode_from_float_controls()` возвращает- `undef`, ни одна ветка не срабатывает, а поле остаётся таким, каким собрано: `ROUND_ZERO = 0`- (`instr-a3xx.h`), то есть усечение. Железо умеет `ROUND_EVEN` — его просто никто не просит.-- Проверено починкой в одну строку (`else set_cat1_round(..., ROUND_EVEN)`, умолчание IEEE-754 вместо- нетронутого поля): с ней те же шесть значений на том же телефоне совпадают с C **все шесть**, включая- решающее `0x01000003` → 16 777 220 там, где без неё 16 777 218. Патч в `tools/mesa/`.-- И это не особенность нашего пина: в Mesa 26.2.5, новейшем выпуске на момент проверки и на восемь- минорных версий новее нашей 25.0.7, этот кусок `create_cov()` совпадает с нашим **дословно** — тот же- `else if` без завершающего `else`, та же `ROUND_ZERO = 0` в `instr-a3xx.h`. Так что отчёт наверх имеет- смысл: баг живой, воспроизводится двумя независимыми путями (GLSL ES и AIR) и лечится одной строкой. Предсказание, которое из этого следовало, **проверено и сбылось**: `bin/u2f_test` (`src/u2f_test.c`,+ и между загрузкой и преобразованием ничего. То есть виноваты не мы и не понижение в ir3, а сама+ инструкция a6xx — **и это было неверно**. У инструкции `cov` есть поле режима округления+ (`ROUND_ZERO = 0`, `ROUND_EVEN = 1`), и ir3 ставит его для назначения F16/F32 из+ `float_controls_execution_mode`, то есть из объявления SPIR-V; когда не объявлено ничего,+ `nir_get_rounding_mode_from_float_controls` возвращает `undef`, ни одна ветка не срабатывает, и поле+ остаётся нулём — то есть усечением. **Железо умеет округлять; ir3 спрашивает режим только у того, кто+ его объявил, и не ставит умолчания, которого требуют IEEE-754 и GLSL.** Поэтому оба пути, GLES и AIR,+ и дают одно и то же неверное число. Починка — одна строка, и, в отличие от бага с `ir3_cmdline`, этот+ файл Mesa сохраняет, а воспроизведение есть с двух независимых сторон: это первое за всю работу, что-можно отправить вверх. Предсказание, которое из этого следовало, **проверено и сбылось**: `bin/u2f_test` (`src/u2f_test.c`,++можно отправить вверх. И это не особенность нашего пина: в Mesa 26.2.5, новейшем выпуске на момент++проверки и на восемь минорных версий новее нашей 25.0.7, этот кусок `create_cov()` совпадает с нашим++**дословно** — тот же `else if` без завершающего `else`, та же `ROUND_ZERO = 0` в `instr-a3xx.h`.++++Предсказание, которое из этого следовало, **проверено и сбылось**: `bin/u2f_test` (`src/u2f_test.c`,`RC=rc.u2f`) спрашивает то же самое у GLSL ES 3.0 через ту же Mesa и тот же ir3, мимо AIR целиком, —значение идёт униформой, чтобы его нечего было свернуть на хосте, а ответ возвращается четырьмябайтами через RGBA8, чтобы биты были точными. На `freedreno; Adreno 7c+ Gen 3; OpenGL ES 3.2 Mesa