おそらく、マトリックスからスケールファクターを抽出し、そのコンポーネントの最大値を使用します。SRT(Scale-Rotation-Translation)マトリックスを使用すると、次のように実行できます。
glm::mat4 m = ...;
// Extract col vectors of the matrix
glm::vec3 col1(m[0][0], m[0][1], m[0][2]);
glm::vec3 col2(m[1][0], m[1][1], m[1][2]);
glm::vec3 col3(m[2][0], m[2][1], m[2][2]);
//Extract the scaling factors
glm::vec3 scaling;
scaling.x = glm::length(col1);
scaling.y = glm::length(col2);
scaling.z = glm::length(col3);
float scaleFactor = MAX(scaling.x, MAX(scaling.y, scaling.z));
(http://wklej.org/id/950061/に基づく-OpenGLで行列が乗算される順序に基づいて並べられた名前を使用するため、名前はdecomposeTRSであり、decomposeSRTではありません)。
これで、元の球の半径にscaleFactorを掛けることができ、境界球ができました。