PrecisionRecall

Вычисляет значения для построения кривой precision-recall. Данный метод, как и метод ClassificationScore, применяется к вектору истинных значений.

bool vector::PrecisionRecall(
   const matrix&                 pred_scores,   // матрица, содержащая распределение вероятностей по каждому классу
   const ENUM_ENUM_AVERAGE_MODE  mode           // режим усреднения
   matrix&                       precision,     // рассчитанные значения precision для каждого порогового значения
   matrix&                       recall,        // рассчитанные значения recall для каждого порогового значения
   matrix&                       thresholds,    // пороговые значения, отсортированные по убыванию
   );

Параметры

pred_scores

[in]  Матрица, содержащая набор горизонтальных векторов с вероятностями по каждому классу. Количество строк матрицы должно соответствовать размеру вектора истинных значений.

mode

[in]  Режим усреднения из перечисления ENUM_AVERAGE_MODE. Используются только AVERAGE_NONE, AVERAGE_BINARY и AVERAGE_MICRO.

precision

[out]  Матрица с рассчитанными значениями кривой precision. При отсутствии усреднения (AVERAGE_NONE) количество строк в матрице соответствует количеству классов модели. Количество колонок соответствует размеру вектора истинных значений (или количеству строк в матрице распределений вероятностей pred_score). В случае микроусреднения количество строк в матрице соответствует общему количеству пороговых значений за исключением дублей.

recall

[out]  Матрица с рассчитанными значениями кривой recall.

threshold

[out]  Матрица пороговых значений, полученная путём сортировки матрицы вероятностей

 

Примечание

Смотрите примечания для метода ClassificationScore.

Пример

Пример сбора статистики модели mnist.onnx (точность 99%).

//--- data for classification metrics
   vectorf y_true(images);
   vectorf y_pred(images);
   matrixf y_scores(images,10);

//--- input-output
   matrixf image(28,28);
   vectorf result(10);
 

//--- testing
   for(int test=0; test<images; test++)
     {
      image=test_data[test].image;
      if(!OnnxRun(model,ONNX_DEFAULT,image,result))
        {
         Print("OnnxRun error ",GetLastError());
         break;
        }
      result.Activation(result,AF_SOFTMAX);

      //--- collect data
      y_true[test]=(float)test_data[test].label;
      y_pred[test]=(float)result.ArgMax();
      y_scores.Row(result,test);
     }    }

 
Вычисление точности

   vectorf accuracy=y_pred.ClassificationMetric(y_true,CLASSIFICATION_ACCURACY);
   PrintFormat("accuracy=%f",accuracy[0]);
 
accuracy=0.989000

Пример вывода графиков precision-recall, где на оси y отложены значения precision, на оси x - значения recall. А также вывод отдельных графиков precision и recall, где на оси x отложены пороговые значения  

   if(y_true.PrecisionRecall(y_scores,AVERAGE_MICRO,mat_precision,mat_recall,mat_thres))
     {
      double precision[],recall[],thres[];
      ArrayResize(precision,mat_thres.Cols());
      ArrayResize(recall,mat_thres.Cols());
      ArrayResize(thres,mat_thres.Cols());
 
      for(uint i=0; i<thres.Size(); i++)
        {
         precision[i]=mat_precision[0][i];
         recall[i]=mat_recall[0][i];
         thres[i]=mat_thres[0][i];
        }
      thres[0]=thres[1]+0.001;
 
      PlotCurve("Precision-Recall curve (micro average)","p-r","",recall,precision);
      Plot2Curves("Precision-Recall (micro average)","precision","recall",thres,precision,recall);
     }

Результат:

Precision-Recall curve

Precision-Recall graph