Эксперименты показали, что если добавить только / и swap, указать --uefi on, а остальное оставить на откуп автоматике - то она найдёт и подцепит vfat раздел в /boot/efi. С одной стороны при наличии такого решения проблема отпадает. Но с другой стороны проявилась другая забавная особенность: установщик кладёт grubx64.efi в папку EFI/calculate на разделе vfat, и при его монтировании в /boot/efi полный путь к efi-загрузчику выглядит вот так: /boot/efi/EFI/calculate/grubx64.efi, что приводит в замешательство кривой uefi материнской платы.

Ну и всё-таки непонятно ограничение на тип ФС для /boot, так как каких либо технических ограничений нет. Система может пускаться и с vfat, ядро спокойно может сделать себе make install на vfat, а grub с лёгкостью подхватывает свои файлы при старте с этой ФС, и с такой же лёгкостью самонастраивается.

Эксперименты показали, что если добавить только / и swap, указать --uefi on, а остальное оставить на откуп автоматике - то она найдёт и подцепит vfat раздел в /boot/efi.

Только если раздел помечен, как EFI (EF00). И выполняется UEFI установка.

Путь к efi-загрузчику выглядит вот так: /boot/efi/EFI/calculate/grubx64.efi, что приводит в замешательство кривой uefi материнской платы.

Путь относительно раздела: EFI/calculate/grubx64.efi, что вполне нормально. А система после установки не загружается или после выполнения каких-либо обновлений: загрузчика, системы, ядра. Может в настройка материнской платы выставлен SecureBoot?

Ну и всё-таки непонятно ограничение на тип ФС для /boot.

Ограничение такое же как и на все каталоги корневого раздела системы. А Вам vfat нужен только для возможности загрузки с EFI? Или есть ещё причины использования её как /boot раздела?

Только если раздел помечен, как EFI (EF00). И выполняется UEFI установка.

Разделу присвоен тип EFI System (ef00), uefi реализовывалось врукопашную по инструкции на gentoo-wiki, Gentoo ставилась как первая и основная ОС.

Путь относительно раздела: EFI/calculate/grubx64.efi, что вполне нормально. А система после установки не загружается или после выполнения каких-либо обновлений: загрузчика, системы, ядра. Может в настройка материнской платы выставлен SecureBoot?

SecureBoot выключен. Материнская плата ведёт себя так: в загрузочном меню она отображает все efi-загрузчики, существующие в системе (Gentoo, Windows, Gento stub kernel, calculate), но при выборе любого из них запускает calculate. Такое поведение наблюдалось когда загрузчик calculate жил папке EFI относительно корня раздела, а остальные загрузчики помещены в корень диска (каждый в собственную папку, путь при монтировании boot без дополнительного каталога EFI).

Ограничение такое же как и на все каталоги корневого раздела системы. А Вам vfat нужен только для возможности загрузки с EFI? Или есть ещё причины использования её как /boot раздела?

Причина была одна: не хотелось ломать уже работающую схему загрузки (calculate ставился третьей системой). Но говорю в прошедшем времени потому что уже всё переделал :)

Материнская плата ведёт себя так: в загрузочном меню она отображает все efi-загрузчики

Она выдаёт список систем, которые устанавливались как efi (можно посмотреть через efibootmgr -v), но не факт, что их загрузчик остался, возможно нарушились пути. А EFI раздел форматировался при установки Calculate?

но при выборе любого из них запускает calculate

Скорее всего остальные пункты стали битыми (либо нарушился список EFI, либо исчезли файлы из раздела EFI).