Как прочитать файл .txt со значениями x и y и преобразовать его в массив?

Поскольку вы заранее не знаете, сколько у вас вершин, рассмотрите возможность использования двух коллекций List вместо двух массивов.

Это позволит вам следовать приведенному ниже алгоритму:

• Подготовьте два списка, listx и listy
• В цикле прочитать два целых числа, x и y
• Если два целых числа недоступны, выйти из цикла
• В противном случае добавьте x в listx и y в listy.

Как только цикл завершится, ваши очки будут храниться в двух параллельных коллекциях.

public class ReadFile{
    public static void main(String[] args){
        BufferedReader br  = new BufferedReader(new BufferedReader(new FileReader("pathToFile")));
        String line = "";
        // reading when each line has x, y
        while((line = br.readLine())!=null){
             String[] t = line.split(",");
             double x = Double.parseDouble(t[0].trim());
             double y = Double.parseDouble(t[1].trim());
             // store it in the array/list
             // or create a Class Pair having x & y coordinate      
        } 
    }
}

с классом Pair это будет выглядеть так

class Pair{
   double x , y;
   Pair(double x , double y){
     this.x = x;
     this.y = y;
   }
}

// the reading logic
    public class ReadFile{
        public static void main(String[] args){
            List<Pair> pointList = new ArrayList<Pair>();
            BufferedReader br  = new BufferedReader(new BufferedReader(new FileReader("pathToFile")));
            String line = "";
            while((line = br.readLine())!=null){
                 String[] t = line.split(",");
                 double x = Double.parseDouble(t[0].trim());
                 double y = Double.parseDouble(t[1].trim());
                 // store it in the array/list
                 // or create a Class Pair having x & y coordinate
                 Pair p = new Pair(x,y);
                 pointList.add(p);       
            } 
        }
    }