interface: full poll vector on adaptive mode
[vpp.git] / src / vnet / interface / rx_queue_funcs.h
1 /*
2  * Copyright (c) 2020 Cisco and/or its affiliates.
3  * Licensed under the Apache License, Version 2.0 (the "License");
4  * you may not use this file except in compliance with the License.
5  * You may obtain a copy of the License at:
6  *
7  *     http://www.apache.org/licenses/LICENSE-2.0
8  *
9  * Unless required by applicable law or agreed to in writing, software
10  * distributed under the License is distributed on an "AS IS" BASIS,
11  * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
12  * See the License for the specific language governing permissions and
13  * limitations under the License.
14  */
15
16 #include <vnet/vnet.h>
17
18 /* funciton declarations */
19
20 u32 vnet_hw_if_get_rx_queue_index_by_id (vnet_main_t *vnm, u32 hw_if_index,
21                                          u32 queue_id);
22 u32 vnet_hw_if_register_rx_queue (vnet_main_t *vnm, u32 hw_if_index,
23                                   u32 queue_id, u32 thread_idnex);
24 void vnet_hw_if_unregister_rx_queue (vnet_main_t *vnm, u32 queue_index);
25 void vnet_hw_if_unregister_all_rx_queues (vnet_main_t *vnm, u32 hw_if_index);
26 void vnet_hw_if_set_rx_queue_file_index (vnet_main_t *vnm, u32 queue_index,
27                                          u32 file_index);
28 void vnet_hw_if_set_input_node (vnet_main_t *vnm, u32 hw_if_index,
29                                 u32 node_index);
30 int vnet_hw_if_set_rx_queue_mode (vnet_main_t *vnm, u32 queue_index,
31                                   vnet_hw_if_rx_mode mode);
32 vnet_hw_if_rx_mode vnet_hw_if_get_rx_queue_mode (vnet_main_t *vnm,
33                                                  u32 queue_index);
34 void vnet_hw_if_set_rx_queue_thread_index (vnet_main_t *vnm, u32 queue_index,
35                                            u32 thread_index);
36 void vnet_hw_if_generate_rxq_int_poll_vector (vlib_main_t *vm,
37                                               vlib_node_runtime_t *node);
38
39 /* inline functions */
40
41 static_always_inline vnet_hw_if_rx_queue_t *
42 vnet_hw_if_get_rx_queue (vnet_main_t *vnm, u32 queue_index)
43 {
44   vnet_interface_main_t *im = &vnm->interface_main;
45   if (pool_is_free_index (im->hw_if_rx_queues, queue_index))
46     return 0;
47   return pool_elt_at_index (im->hw_if_rx_queues, queue_index);
48 }
49
50 static_always_inline void
51 vnet_hw_if_rx_queue_set_int_pending (vnet_main_t *vnm, u32 queue_index)
52 {
53   vnet_hw_if_rx_queue_t *rxq = vnet_hw_if_get_rx_queue (vnm, queue_index);
54   vnet_hw_interface_t *hi = vnet_get_hw_interface (vnm, rxq->hw_if_index);
55   vlib_main_t *vm = vlib_get_main_by_index (rxq->thread_index);
56   vnet_hw_if_rx_node_runtime_t *rt;
57   if (PREDICT_FALSE (rxq->mode != VNET_HW_IF_RX_MODE_INTERRUPT &&
58                      rxq->mode != VNET_HW_IF_RX_MODE_ADAPTIVE))
59     return;
60   rt = vlib_node_get_runtime_data (vm, hi->input_node_index);
61   if (vm == vlib_get_main ())
62     clib_interrupt_set (rt->rxq_interrupts, queue_index);
63   else
64     clib_interrupt_set_atomic (rt->rxq_interrupts, queue_index);
65   vlib_node_set_interrupt_pending (vm, hi->input_node_index);
66 }
67
68 static_always_inline vnet_hw_if_rxq_poll_vector_t *
69 vnet_hw_if_get_rxq_poll_vector (vlib_main_t *vm, vlib_node_runtime_t *node)
70 {
71   vnet_hw_if_rx_node_runtime_t *rt = (void *) node->runtime_data;
72   vnet_hw_if_rxq_poll_vector_t *pv = rt->rxq_vector_int;
73
74   if (PREDICT_FALSE (node->state == VLIB_NODE_STATE_INTERRUPT))
75     vnet_hw_if_generate_rxq_int_poll_vector (vm, node);
76   else if (node->flags & VLIB_NODE_FLAG_ADAPTIVE_MODE)
77     pv = rt->rxq_vector_poll;
78
79   return pv;
80 }
81
82 static_always_inline u8
83 vnet_hw_if_get_rx_queue_numa_node (vnet_main_t *vnm, u32 queue_index)
84 {
85   vnet_hw_if_rx_queue_t *rxq = vnet_hw_if_get_rx_queue (vnm, queue_index);
86   vnet_hw_interface_t *hi = vnet_get_hw_interface (vnm, rxq->hw_if_index);
87   return hi->numa_node;
88 }
89
90 static_always_inline u32
91 vnet_hw_if_get_rx_queue_thread_index (vnet_main_t *vnm, u32 queue_index)
92 {
93   vnet_hw_if_rx_queue_t *rxq = vnet_hw_if_get_rx_queue (vnm, queue_index);
94   return rxq->thread_index;
95 }
96
97 static_always_inline int
98 vnet_hw_if_rxq_cmp_cli_api (vnet_hw_if_rx_queue_t **a,
99                             vnet_hw_if_rx_queue_t **b)
100 {
101   vnet_main_t *vnm;
102   vnet_hw_interface_t *hif_a;
103   vnet_hw_interface_t *hif_b;
104
105   if (*a == *b)
106     return 0;
107
108   if (a[0]->thread_index != b[0]->thread_index)
109     return 2 * (a[0]->thread_index > b[0]->thread_index) - 1;
110
111   vnm = vnet_get_main ();
112   hif_a = vnet_get_hw_interface (vnm, a[0]->hw_if_index);
113   hif_b = vnet_get_hw_interface (vnm, b[0]->hw_if_index);
114
115   if (hif_a->input_node_index != hif_b->input_node_index)
116     return 2 * (hif_a->input_node_index > hif_b->input_node_index) - 1;
117
118   if (a[0]->hw_if_index != b[0]->hw_if_index)
119     return 2 * (a[0]->hw_if_index > b[0]->hw_if_index) - 1;
120
121   if (a[0]->queue_id != b[0]->queue_id)
122     return 2 * (a[0]->queue_id > b[0]->queue_id) - 1;
123
124   ASSERT (0);
125   return ~0;
126 }
127
128 /*
129  * fd.io coding-style-patch-verification: ON
130  *
131  * Local Variables:
132  * eval: (c-set-style "gnu")
133  * End:
134  */