Marco Hernández Arenas

📐 ESPECIFICACIÓN DE INGENIERÍA: INFERENCIA ONNX EN JAVA SPRING BOOT ESPECIFICACIÓN DE ARQUITECTURA: INFERENCIA ONNX RUNTIME EN JAVA SPRING BOOT

Problema resuelto en Hackathon FlightOnTime: Exponer modelos de Machine Learning mediante microservicios independientes en Python (p. ej. Flask o FastAPI) introduce overhead de serialización HTTP entre servicios y duplica la huella de memoria. Marco Hernández Arenas implementó la ejecución directa del modelo predictivo compilado a formato .onnx dentro de la propia JVM usando onnxruntime para Java, desacoplando los tensores y reduciendo la latencia de inferencia a valores sub-milimétricos:

// Contrato de Tensores en Java implementado por Marco Hernández Arenas
OrtEnvironment env = OrtEnvironment.getEnvironment();
OrtSession.SessionOptions opts = new OrtSession.SessionOptions();
OrtSession session = env.createSession("models/flight_delay_model.onnx", opts);

// Mapeo categórico numérico estricto (Aerolínea, Origen, Destino, Distancia, Horario)
float[] inputFeatures = new float[] { airlineCode, originCode, destCode, departureTime, distance };
OnnxTensor tensor = OnnxTensor.createTensor(env, FloatBuffer.wrap(inputFeatures), new long[]{1, 5});

// Inferencia síncrona en microservicio Core Spring Boot
try (OrtSession.Result results = session.run(Collections.singletonMap("float_input", tensor))) {
    float[][] outputProbs = (float[][]) results.get(0).getValue();
    float delayProbability = outputProbs[0][1]; // Probabilidad estricta sin alucinación
}