esto es increíblemente genial. un tipo entrenó un modelo de IA en su MacBook hackeando el chip m4 de apple.
- hackeó el acelerador de inferencia de apple (que se encuentra en el chip m4) lo que lo convirtió en un mini transformador. - 80 veces más eficiente que las GPU nvidia a100 - costo = electricidad para cargar el MacBook vs. alquilar GPU para $10Ks - se puede usar para entrenar, ajustar y ejecutar modelos localmente mi único comentario es que probablemente sea muy lento pero aún así es muy genial, - puedes imaginar que los futuros chips (m6/7) podrán entrenar mucho más rápido.
Ver originales
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
esto es increíblemente genial. un tipo entrenó un modelo de IA en su MacBook hackeando el chip m4 de apple.
- hackeó el acelerador de inferencia de apple (que se encuentra en el chip m4) lo que lo convirtió en un mini transformador.
- 80 veces más eficiente que las GPU nvidia a100
- costo = electricidad para cargar el MacBook vs. alquilar GPU para $10Ks
- se puede usar para entrenar, ajustar y ejecutar modelos localmente
mi único comentario es que probablemente sea muy lento pero aún así es muy genial, - puedes imaginar que los futuros chips (m6/7) podrán entrenar mucho más rápido.