ラテン語の超初学者ですが、おあつらえ向きの課題に見えたので、調べてみました。

まずは単語分解
性・数・格が異なっていても同じ綴りのものがあるので、見比べです。
-------------------------------------------------------------------------------
philosophiae 　名詞　　直接法 女性形 単数属格　意味：哲学の
naturalis　　　形容詞　 直接法 女性形 単数属格　意味：自然(の)
principia　　　名詞　　 直接法 中性形 複数主格　意味：諸原理は
mathematica　形容詞　 直接法 中性形 複数主格　意味：数多の数学(は)
-------------------------------------------------------------------------------
文：(philosophiae　←naturalis)　→　(principia　←mathematica)
訳：「自然的な哲学の　数学的な諸原理は」→「自然哲学の数学的諸原理」

「ラテン語の形容詞は修飾する名詞や代名詞の性・数・格と一致した変化をする」という文法上の大原則があるので、
(naturalis)は(philosophiae)に係り、(mathematica)は(principia)に係る。
そして(philosophiae naturalis)の名詞句(属格)が、(principia mathematica)の名詞句(主格)に係るという
階層構造に思えました。
だから形容詞の修飾先はそれぞれの句の中に限定されていると思いました。
また>>576のmathematicusは名詞の方のmathematicusではなく、
形容詞の男性形単数主格のmathematicusの事だと思います。

結局のところ、文法的な観点でのラテン語の形容詞の訳し方は、
強意の部分を汲み取って、性数格の一致する名詞を上手い具合に修飾できれば、
「〜の諸原理(数学的な意味で)」でも、「〜の数学っぽい諸原理」でも、「〜の数学らしい諸原理」でも、
「Mathematical principles」でも、何でもいいんじゃないでしょうか。

ラテン語は年代、地域、分野によって使われ方に違いがありますし、英語も同様です。
訳文に拘るのであれば、題名を書いた作者に意図を聞くなり、内容を読み解かないと、100%な訳をするのは難しいと思います。