BMC Medical Informatics and Decision Making

Table 2 Average precision of the pre-trained models

From: Optimizing deep learning-based segmentation of densely packed cells using cell surface markers

	1	2	3	4	5	6	7	mAP
	CD8	CD3	CD4	CD3	CD3	CD3	CD3
Cellpose
cyto	0.623	0.570	0.669	0.455	0.409	0.480	0.406	0.516
cyto2	0.561	0.534	0.584	0.437	0.407	0.462	0.403	0.484
nuclei	0.217	0.283	0.135	0.234	0.231	0.267	0.144	0.216
tissuenet	0.000	0.000	0.004	0.000	0.000	0.000	0.000	0.001
livecell	0.392	0.178	0.356	0.158	0.137	0.123	0.256	0.229
TN1	0.008	0.000	0.000	0.000	0.000	0.000	0.000	0.001
TN2	0.000	0.000	0.004	0.000	0.000	0.000	0.000	0.001
TN3	0.000	0.000	0.004	0.000	0.000	0.000	0.000	0.001
LC1	0.252	0.179	0.199	0.117	0.136	0.165	0.144	0.170
LC2	0.293	0.122	0.243	0.086	0.112	0.038	0.104	0.142
LC3	0.479	0.267	0.457	0.241	0.208	0.219	0.226	0.300
LC4	0.276	0.131	0.263	0.124	0.109	0.096	0.173	0.167
DeepCell
cytoplasm	0.225	0.402	0.398	0.297	0.145	0.146	0.202	0.259
nuclear	0.312	0.373	0.486	0.297	0.170	0.113	0.172	0.275
tn_cyto	0.248	0.163	0.175	0.105	0.092	0.081	0.115	0.140
tn_nuclear	0.385	0.467	0.432	0.373	0.434	0.374	0.244	0.387
Mask R-CNN
CellSeg	0.466	0.427	0.478	0.408	0.340	0.390	0.316	0.404
jacs	0.383	0.385	0.423	0.338	0.316	0.344	0.293	0.355

Back to article page

ISSN: 1472-6947

Contact us

General enquiries: journalsubmissions@springernature.com