最後の文字の出現位置を取得するだけです。
for(String serverId : serverIds) {
 sb.append(serverId);
 sb.append(",");
}
sb.deleteCharAt(sb.lastIndexOf(","));
以来lastIndexOf逆検索を実行すると、あなたはそれが最初の試みで見つけることを知っているだろう、パフォーマンスがここでの問題ではありません。
編集
私は私の答えを上げ続けているので(人々に感謝)、それに関して価値があります:
上のJava 8以降、それだけで使用することがより読みやすく、明示的になりStringJoinerを。単純なセパレータの1つのメソッドと、プレフィックスとサフィックスのオーバーロードがあります。
ここからの例:例
単純なセパレータを使用した例:
    StringJoiner mystring = new StringJoiner("-");    
    // Joining multiple strings by using add() method  
    mystring.add("Logan");  
    mystring.add("Magneto");  
    mystring.add("Rogue");  
    mystring.add("Storm");  
    System.out.println(mystring);
出力:
  ローガンマグネトローグストーム
接尾辞と接頭辞の例:
    StringJoiner mystring = new StringJoiner(",", "(", ")");    
    // Joining multiple strings by using add() method  
    mystring.add("Negan");  
    mystring.add("Rick");  
    mystring.add("Maggie");  
    mystring.add("Daryl");  
    System.out.println(mystring);
出力
  (ネガン、リック、マギー、ダリル)