Есть примерно 100500 вариантов достраивания канона в этом направлении. Как совсем каноничных, так и слегка меняющих канон. Разной степени самосогласовенности и непротиворечивости. В зависимости от этого будут разные и ответы на следующие вопросы:
А вот как работают создатели заклинаний? Для них магия тоже "черный ящик" действующий непонятно как, но выдающий определенный результат?
достаточно четко сказать непонятные слова и правильно взмахнуть палочкой
Нет. См. Патронус, Круциатус, Авада Кедавра. Но для некоторых да, см. сектумсемпра, левикорпус и так далее. Для некоторых - тупо неизвестно. Как работает какое-нибудь ваддивази - мы хз. Предположительно, для направленных заклинаний надо как минимум представить себе цель (бросаешь ваддивази предмет - представляй, куда), для трансфигурации - какие-то аспекты результата, ну, вы поняли.
а потом как-то находят способ закодировать это словами и взмахом палочки?
Конечно, нет. Потому что закон сохранения информации. Число состояний реальности и/или изменений состояний реальности больше, чем число слов, кроме того, адаптивность заклинаний предполагает, что есть дополнительный обработчик информации и/или что воздействие концептуально. Но в несамосогласованных и/или непротиворечивых достройках бывает и такой вариант, конечно.