Lokale KI: gebrauchte GPUs für Sprachmodelle

Welche gebrauchte Grafikkarte für lokale KI passt.

Preis/Leistung

Preis/Leistung TFLOPS
Rang	Modell	Euro je 100 TFLOPS	VRAM	Gebrauchtpreis
1	Intel Arc A750	530 €	8 GB	182 €
2	AMD RX 7700 XT	582 €	12 GB	410 €
3	AMD RX 7900 GRE	587 €	16 GB	540 €
4	AMD RX 7800 XT	613 €	16 GB	458 €
5	AMD RX 7900 XT	650 €	20 GB	670 €
6	AMD RX 7900 XTX	721 €	24 GB	886 €
7	AMD RX 9070 XT	745 €	16 GB	725 €
8	AMD RX 5700 XT	764 €	8 GB	149 €
9	AMD RX 9070	830 €	16 GB	600 €
10	AMD RX 9060 XT	874 €	16 GB	448 €
11	AMD RX 6600 XT	884 €	8 GB	188 €
12	NVIDIA RTX 2070 SUPER	976 €	8 GB	177 €
13	NVIDIA RTX 2080	988 €	8 GB	199 €
14	AMD RX 6650 XT	994 €	8 GB	214 €
15	Intel Arc B580	1.010 €	12 GB	276 €
16	AMD RX 6950 XT	1.036 €	16 GB	490 €
17	AMD RX 6700 XT	1.107 €	12 GB	292 €
18	AMD RX 6800	1.110 €	16 GB	359 €
19	NVIDIA RTX 2080 Ti	1.115 €	22 GB	300 €
20	NVIDIA RTX 3080	1.271 €	12 GB	389 €
21	NVIDIA RTX 3070	1.295 €	8 GB	263 €
22	NVIDIA RTX 3070 Ti	1.379 €	8 GB	300 €
23	NVIDIA RTX 4060 Ti	1.491 €	16 GB	329 €
24	NVIDIA RTX 3080 Ti	1.492 €	12 GB	509 €
25	NVIDIA RTX 4070 Ti	1.646 €	12 GB	660 €
26	NVIDIA RTX 4070 Super	1.688 €	12 GB	599 €
27	NVIDIA RTX 4070	1.726 €	12 GB	503 €
28	NVIDIA RTX 5060	1.830 €	8 GB	351 €
29	NVIDIA RTX 4080	1.907 €	16 GB	928 €
30	NVIDIA RTX 4070 Ti Super	1.925 €	16 GB	849 €
31	NVIDIA RTX 4080 SUPER	2.105 €	16 GB	1.099 €
32	NVIDIA RTX 5070	2.202 €	12 GB	679 €
33	NVIDIA RTX 5080	2.452 €	16 GB	1.380 €
34	NVIDIA RTX 5070 Ti	2.485 €	16 GB	1.092 €
35	NVIDIA RTX 4090	3.033 €	24 GB	2.505 €
36	NVIDIA RTX 3090	3.791 €	24 GB	1.349 €
37	NVIDIA RTX 5090	3.964 €	32 GB	4.154 €
38	NVIDIA RTX 3090 Ti	4.248 €	24 GB	1.699 €
39	NVIDIA RTX A4000	4.898 €	16 GB	939 €

Euro je 100 TFLOPS, kleiner ist besser. Karten ohne verlässlichen 30-Tage-Preis (mindestens drei Verkäufe in 30 Tagen) fehlen.

Leistung

Top 100 nach TFLOPS
Rang	Modell	TFLOPS	VRAM	Erscheinungsjahr	Gebrauchtpreis
1	NVIDIA B300	1232,00	288 GB	2026	kein Preis
2	NVIDIA B200	496,60	192 GB	2024	kein Preis
3	AMD MI300	383,00	192 GB	2023	kein Preis
4	AMD MI250	362,10	128 GB	2021	kein Preis
5	NVIDIA H100	267,60	80 GB	2022	kein Preis
6	NVIDIA H200	241,30	141 GB	2024	kein Preis
7	NVIDIA H800	237,20	80 GB	2023	kein Preis
8	AMD MI100	184,60	32 GB	2020	kein Preis
9	AMD MI210	181,00	64 GB	2022	kein Preis
10	NVIDIA H20	148,00	96 GB	2024	kein Preis
11	NVIDIA RTX PRO 6000 WS	126,00	96 GB	2025	kein Preis
12	AMD RX 7900 XTX	122,80	24 GB	2022	886 €
13	AMD PRO W7900	122,60	48 GB	2023	kein Preis
14	NVIDIA RTX PRO 6000 Max-Q	116,00	96 GB	2025	kein Preis
15	NVIDIA RTX 5090	104,80	32 GB	2025	4.154 €
16	AMD RX 7900 XT	103,00	20 GB	2022	670 €
17	AMD RX 9070 XT	97,32	16 GB	2025	725 €
18	AMD R9700 PRO	95,70	32 GB	2025	kein Preis
19	AMD RX 7900 GRE	91,96	16 GB	2023	540 €
20	NVIDIA L40s	91,61	48 GB	2023	kein Preis
21	NVIDIA RTX 6000 Ada	91,10	48 GB	2022	kein Preis
22	NVIDIA L40	90,52	48 GB	2022	kein Preis
23	AMD PRO W7800	90,50	48 GB	2023	kein Preis
24	NVIDIA RTX 4090	82,58	24 GB	2022	2.505 €
25	NVIDIA RTX 4090D	79,49	48 GB	2023	kein Preis
26	NVIDIA A100	77,97	80 GB	2020	kein Preis
27	NVIDIA A800	77,97	80 GB	2022	kein Preis
28	AMD RX 7800 XT	74,65	16 GB	2023	458 €
29	AMD RX 9070	72,25	16 GB	2025	600 €
30	AMD RX 7700 XT	70,34	12 GB	2023	410 €
31	NVIDIA RTX 5880 Ada	69,30	48 GB	2024	kein Preis
32	NVIDIA RTX PRO 5000	66,94	72 GB	2025	kein Preis
33	NVIDIA RTX 5000 Ada	65,30	32 GB	2023	kein Preis
34	NVIDIA T4	65,13	16 GB	2018	kein Preis
35	NVIDIA L20	59,35	48 GB	2023	kein Preis
36	NVIDIA RTX 5080	56,28	16 GB	2025	1.380 €
37	NVIDIA RTX 4080 SUPER	52,20	16 GB	2024	1.099 €
38	AMD RX 9060 XT	51,28	16 GB	2025	448 €
39	NVIDIA RTX PRO 4500 WS	50,53	32 GB	2025	kein Preis
40	NVIDIA RTX 4080	48,70	16 GB	2022	928 €
41	AMD RX 6950 XT	47,31	16 GB	2022	490 €
42	Intel Arc Pro B70	45,88	32 GB	2026	kein Preis
43	AMD RX 7600 XT	45,14	16 GB	2024	kein Preis
44	NVIDIA RTX 4070 Ti Super	44,10	16 GB	2024	849 €
45	NVIDIA RTX 5070 Ti	43,94	16 GB	2025	1.092 €
46	AMD Radeon Pro V620	40,55	32 GB	2021	kein Preis
47	NVIDIA RTX 4070 Ti	40,09	12 GB	2023	660 €
48	NVIDIA RTX 3090 Ti	40,00	24 GB	2022	1.699 €
49	NVIDIA RTX 4500 Ada	39,60	24 GB	2023	kein Preis
50	Intel Arc A770	39,32	16 GB	2022	kein Preis
51	NVIDIA RTX A6000	38,70	48 GB	2020	kein Preis
52	NVIDIA A40	37,42	48 GB	2020	kein Preis
53	NVIDIA RTX PRO 4000	36,83	24 GB	2025	kein Preis
54	NVIDIA RTX 3090	35,58	24 GB	2020	1.349 €
55	NVIDIA RTX 4070 Super	35,48	12 GB	2024	599 €
56	Intel Arc A750	34,41	8 GB	2022	182 €
57	NVIDIA RTX 3080 Ti	34,10	12 GB	2021	509 €
58	NVIDIA RTX 4090 Laptop	32,98	16 GB	2023	kein Preis
59	NVIDIA RTX Titan	32,62	24 GB	2018	kein Preis
60	AMD RX 6800	32,33	16 GB	2020	359 €
61	NVIDIA RTX 5090 Mobile	31,80	24 GB	2025	kein Preis
62	NVIDIA A10	31,24	24 GB	2021	kein Preis
63	NVIDIA RTX 5070	30,84	12 GB	2025	679 €
64	NVIDIA RTX 3080	30,60	12 GB	2020	389 €
65	NVIDIA L4	30,29	24 GB	2023	kein Preis
66	NVIDIA GB10	29,71	128 GB	2025	kein Preis
67	AMD Ryzen AI Max+ 395	29,70	128 GB	2025	kein Preis
68	AMD MI60	29,50	32 GB	2018	kein Preis
69	NVIDIA RTX 4070	29,15	12 GB	2023	503 €
70	NVIDIA V100	28,26	32 GB	2017	kein Preis
71	NVIDIA RTX A5000	27,77	24 GB	2021	kein Preis
72	Intel Arc B580	27,34	12 GB	2024	276 €
73	NVIDIA RTX 2080 Ti	26,90	22 GB	2018	300 €
74	NVIDIA RTX 4000 Ada	26,70	20 GB	2023	kein Preis
75	AMD MI50	26,50	32 GB	2018	kein Preis
76	AMD RX 6700 XT	26,43	12 GB	2021	292 €
77	AMD Radeon Pro VII	26,11	32 GB	2020	kein Preis
78	NVIDIA RTX 4080 Laptop	24,72	12 GB	2023	kein Preis
79	Intel Arc B60	24,58	48 GB	2025	kein Preis
80	NVIDIA RTX PRO 4000 SFF	24,05	24 GB	2025	kein Preis
81	NVIDIA RTX 5060 Ti	23,70	16 GB	2025	kein Preis
82	Intel Arc B570	23,04	10 GB	2025	kein Preis
83	NVIDIA RTX 5080 Mobile	23,04	16 GB	2025	kein Preis
84	AMD RX 6700	22,58	10 GB	2022	kein Preis
85	NVIDIA RTX 4060 Ti	22,06	16 GB	2023	329 €
86	NVIDIA RTX 3070 Ti	21,75	8 GB	2021	300 €
87	AMD RX 6650 XT	21,59	8 GB	2022	214 €
88	Intel Arc B50	21,30	16 GB	2025	kein Preis
89	AMD RX 6600 XT	21,21	8 GB	2021	188 €
90	NVIDIA RTX 3070	20,31	8 GB	2020	263 €
91	NVIDIA RTX 2080	20,14	8 GB	2018	199 €
92	NVIDIA T10	20,00	16 GB	2020	kein Preis
93	AMD RX 5700 XT	19,51	8 GB	2019	149 €
94	NVIDIA RTX A5000 Mobile	19,35	16 GB	2021	kein Preis
95	NVIDIA RTX 4000 SFF Ada	19,20	20 GB	2023	kein Preis
96	NVIDIA RTX 5060	19,18	8 GB	2025	351 €
97	NVIDIA RTX A4000	19,17	16 GB	2021	939 €
98	NVIDIA P100	19,05	16 GB	2016	kein Preis
99	NVIDIA RTX 3080 Mobile	18,98	16 GB	2021	kein Preis
100	NVIDIA RTX 2070 SUPER	18,12	8 GB	2019	177 €

Quellen & Details

Quelle: Hugging Face (huggingface.js hardware.ts). Quelle abgerufen am 22.09.2026. Lizenz: MIT. Die Werte sind theoretische Herstellerangaben für den Spitzenwert, keine Messwerte. Einheit: TFLOPS (FP16).

„Leistung“ listet die 100 schnellsten Karten nach TFLOPS. Für lokale Modelle zählt vor allem der VRAM: Das Modell muss komplett in den Grafikspeicher passen. TFLOPS sind Herstellerangaben, keine Messwerte.